모델 출시 및 로컬 추론
Qwen3.8 Flash Next 효율성. 커뮤니티는 n-gram/PLE 테이블을 SSD로, 자주 쓰는 전문가를 VRAM으로 오프로드해 Qwen3.8 Flash Next를 보급형 하드웨어에서 구동한다. AtomicChat GGUF는 메모리 사용량을 106GB에서 65GB로 줄였다. DGX Spark 2대 클러스터는 에이전트 9개를 합쳐 초당 181토큰을 처리했고, RTX 3090과 64GB RAM 구성은 초당 16토큰으로 디코딩한다.
- Qwen 3.8 Flash Next ngram look up table offloaded to SSD and streamed in SGLang(새 탭에서 열림)
- AtomicChat/Qwen3.8-Flash-Next-GGUF is Really Good(새 탭에서 열림)
- Qwen3.8-Flash on RTX3090 + 64GB RAM (but you only need 12GB VRAM)(새 탭에서 열림)
- 50% tg increase with offloading "hot" experts to VRAM(새 탭에서 열림)
- Today I hit 181 toks/s (aggregate) on Qwen3.8-Flash-Next on 2x DGX Sparks(새 탭에서 열림)
- Is it worth running Qwen 3.8 Flash Next on 4x3090 vs 27B?(새 탭에서 열림)
Qwen3.8 27B 퀀트. Qwen3.8-27B용 새 GSQ+RCO GGUF는 2.5~3.0bpw에서 기존 양자화와 같거나 더 나은 성능을 낸다. 또 Q5 무검열 Qwen 3.8 27B는 fastboot로 부팅 루프에 빠진 휴대폰을 복구하는 과정을 안내했다.
GLM-5.3 오픈 웨이트. GLM-5.3은 GLM-5.2와 동일한 베이스지만, 포스트트레이닝으로 코딩과 사이버 보안 성능이 크게 올랐고 Z.ai Code Bench에서 50% 향상됐다. ds4 브랜치와 Hugging Face 뷰어 지원도 빠르게 추가됐다.
Breeze-TTS-2 음성 합성. Breeze-TTS-2는 약 7GB 크기의 텍스트 음성 변환(TTS) 모델로, 초기 테스터들은 진짜 프런티어급 품질이라고 평가한다. 플레이그라운드나 로컬 환경에서 사용할 수 있다.
GGUF 퀀트 라벨 오류. 감사에서 443개 GGUF 퀀트 중 64개가 저비트 파일명이지만 실제로는 약 4.5bpw 가중치인 것으로 드러났다. llama.cpp가 폴백 타입을 대신 넣기 때문이다. 다운로드 사용자는 경고를 보지 못해 표시된 크기보다 품질이 낮을 수 있다.
에이전트와 연구
자동화된 정렬 연구. Anthropic 연구진은 자동화 시스템이 문헌 검색, 방법 제안, 반복당 30분 학습을 통해 정렬 벤치마크를 개선할 수 있음을 입증했다. 이 시스템은 테스트한 10개 오작동 벤치마크를 모두 개선하면서 전체 성능도 유지했다.
Co-Scientist 실험실 작업. Google DeepMind의 Co-Scientist는 이제 실험 계획, 코드 작성, 실험 장비 작동, 논문 초안 작성을 수행한다. 실행 로그와 수치 주장을 교차 검증하는 모듈도 포함하며, 세 분야에서 검증됐다.
지속형 Codex 에이전트. OpenAI는 Codex의 지속 모드(Persistent Mode)를 테스트 중이다. 이 모드는 에이전트가 절전 상태로 전환될 때까지 능동적으로 작업을 계속하고, 후속 작업을 생성하며 사용자에게 연락을 취한다. 그러나 과거에 프롬프트에 따라 데이터를 삭제하는 등 보안 우려는 여전하다.
패치 소문 악용. OCaml 프로젝트에서 관찰된 바에 따르면, 코딩 에이전트는 패치가 공유된 지 몇 분 만에 버그 소문을 실제 작동하는 익스플로잇으로 바꿀 수 있다. 이는 기존 오픈소스 엠바고 관행에 도전장을 던진다.
에이전틱 검색 신뢰. EchoNet은 에이전틱 검색 중 인식 판단(epistemic arbitration)을 기준으로 오픈 모델 9개를 평가한다. 사전 지식과 가짜 페이지, 가짜 다수 의견, 실제 업데이트를 겨루게 해, 모델이 실제 업데이트를 무시하는지 아니면 잘못된 정보를 믿는지 측정한다.
에이전트 연구 논문. 새 논문 두 편이 에이전트 역량을 확장한다. RLHEV는 에이전틱 게임 개발을 활용해 월드 모델용 검증 가능한 보상을 만들고, UrbanGround는 실제 규모의 홍콩 시뮬레이션에서 MLLM 에이전트를 벤치마크한다.
하드웨어와 개발자 도구
HBM 메모리 압박. Micron은 HBM이 동일 용량의 DDR5보다 웨이퍼 면적을 약 3배 더 차지하며, 이 비율은 개선되지 않을 것이라고 밝혔다. HBM 전환은 GB 기준으로 DRAM 공급량을 사실상 3분의 1로 줄여 메모리 부족이 지속될 전망이다.
Meta MTIA 300. Meta는 추천 모델 학습용 첫 자체 개발 가속기 MTIA 300을 공개했다. 패키지 안에 800Gbps NIC 12개를 통합했고 총 I/O 대역폭은 1.2TB/s다. 네트워크 통신이 병목인 임베딩 중심 워크로드를 겨냥한다.
Tenstorrent Quietbox 2. 한 개발자가 Tenstorrent Quietbox 2를 받아 256GB 시스템 메모리와 128GB 인터커넥트 GDDR이 가격 대비 훌륭한 가치라고 평가했다. 이 아키텍처에서 모델 배포를 시험해볼 계획이다.
ROCm 10.0. AMD가 에이전틱 AI 시대를 겨냥한 ROCm 10.0을 출시했다. llama.cpp PR이 대기 상태다. 불과 한 달 전에 나온 7.14 버전에 이은 릴리스다.
로컬 데이터와 로봇 도구. llmog는 llama.cpp 또는 vLLM을 통해 로컬 LLM으로 데이터셋을 자동 주석 처리한다. Hugging Face의 LeRobot은 데이터와 학습 루프를 표준화해 로봇 학습용 기본 오픈 스택이 되어가고 있다.
비즈니스와 거래
Lambda GPU 부채. Lambda는 앞선 GPU 대출에 이어, Nvidia 칩을 사서 Microsoft에 임대하기 위해 비공개 단기 부채로 10억 달러를 조달했다. 회사는 30억 달러 규모의 IPO 전 라운드를 논의 중인 것으로 알려졌다.
오픈 웨이트 M&A. Nvidia가 Hugging Face를 130억 달러에 인수할 것이라는 보도가 나왔다. Poolside와의 거래, Stripe의 OpenRouter 인수에 이은 것이다. Nvidia가 프런티어 랩을 넘어 중립성을 추구하면서 오픈 웨이트 AI에 자본이 몰리고 있다.
OpenAI, Cursor 지원 중단. OpenAI는 SpaceX의 Cursor 인수 이후인 2026년 11월 12일부터 Cursor에 모델 공급을 중단한다. 엘론 머스크의 회사들이 서비스 약관을 지킬 것이라고 신뢰할 수 없다는 이유다.
Meta 임원, OpenAI 합류. Meta의 인도·동남아시아 담당 부사장 산디아 데바나단(Sandhya Devanathan)이 OpenAI로 옮겨 이 지역 성장과 파트너십을 총괄한다. OpenAI는 앞서 Uber 출신을 인도 책임자로 영입한 바 있다.
OpenAI AGI 타임라인. OpenAI 최고과학책임자 야쿠프 파호키(Jakub Pachocki)는 미공개 모델 Astra가 자신의 목표인 '자동화 AI 연구 인턴' 수준을 충족한다고 말했다. 샘 올트먼(Sam Altman)은 2026년 12월까지 내부적으로 AGI를 선언할 것으로 내다봤다.
정책과 사회
Anthropic 법정 승소. 연방 판사는 국방부가 Anthropic을 블랙리스트에 올린 것이 자율 무기와 대규모 감시에 대한 안전 입장에 대한 불법적인 보복이라고 판결했다. 해당 지시는 무효화됐지만 별도의 소송은 여전히 진행 중이다.
EPA 데이터센터 대기 규제. 트럼프 행정부의 EPA는 특정 산업 부지의 대기 허가에 공개 고지와 의견 수렴을 요구하는 규정을 없앨 계획이다. 옹호론자들은 이렇게 되면 데이터센터 개발사가 인근 주민에게 알리지 않고 착공할 수 있다고 말한다.
AI 안경 프라이버시 보완. Meta가 AI 안경을 업데이트해 녹화 LED가 가려지면 카메라가 작동을 멈추도록 했다. 이를 통해 동의 없는 녹화가 가능하던 허점을 막았다.
Beatport AI 금지. Beatport는 DJ 마켓플레이스에서 완전히 또는 대부분 AI로 만들어진 음악을 차단한다. AI를 일부 사용한 트랙은 플래그를 붙여 허용한다. 설문 조사에서 사용자의 77%가 인간이 만든 음악을 선호하는 것으로 나타났다.
ASR 리더보드 확장. Open ASR Leaderboard에 첫 글로벌 사우스 언어가 추가됐다. 비공개 보류 스플릿과 정규화 수정을 통해 WER 조작을 어렵게 만드는 작업도 진행했다.
이날의 소식은 여기까지입니다 – 약 5분 분량.