오픈 모델과 릴리스
젯브레인스 Mellum2.1 MTP. 젯브레인스가 Mellum2.1-12B-A2.5B-Thinking-MTP를 공개했다. 추측 디코딩용 드래프트 역할을 하는 다중 토큰 예측 헤드를 추가한 버전이다. 추론 엔진이 드래프트된 토큰을 모두 검증하기에 출력은 그대로면서 디코딩 속도는 1.4~1.8배 빨라지고, 드래프트 수용률은 약 90%에 이른다.
Drex Max 결정 모델. Nace AI가 27B dense 의사결정 모델 Drex Max v1을 오픈소스로 공개했다. 262K 토큰 윈도우를 갖춰 한 번의 포워드 패스로 질문당 최대 255개 선택지를 평가한다. NVIDIA GPU나 애플 실리콘에서 돌아가며 Decision Index 0.4 점수는 67.52다.
3D 에셋 코딩 모델. 4B 코딩 모델 GLB-3D-Coder가 새로 나왔다. Godot 같은 게임 엔진용 GLB 내보내기를 지원하는 Three.js 장면을 작성한다. 짧은 영어 프롬프트만으로 마나 포션이나 메디컬 스테이션 같은 단순한 3D 에셋을 만들어낸다.
감정 태그 TTS. Silencio-2는 Pocket TTS를 18M 규모로 파인튜닝한 오픈 모델로, [sigh]나 <angry>처럼 본문에 들어간 감정·효과음 태그를 따른다. CPU에서 실시간 대비 약 20배 속도로 돌아가며 Hugging Face와 Colab 데모에서 쓸 수 있다.
Heretic 2.0 스티어링. Heretic 2.0은 검열 제거를 넘어 일반적인 모델 변형으로 영역을 넓혔다. Arbitrary-Rank Ablation으로 slop 억제, 아첨 성향 감소, 감정 정렬 변경을 노린다. 프로젝트 측은 GitHub 스타 3만7000개와 모델 다운로드 8800만 건을 기록했다고 밝혔다.
에이전트 시스템과 연구
DeepSeek dsh-superagent. 딥시크가 dsh-superagent를 오픈소스로 공개했다. 허용된 요청을 각각 별도 세션에서 도는 병렬 작업 항목으로 바꾸는 능동형 GitHub 코딩 에이전트다. 시뮬레이션에서 노이즈가 섞인 메시지 스트림으로도 단일 세션 베이스라인보다 작업을 1.9배 빨리 끝냈다(p95 15.7분 대 29.5분).
Memdoor 5모델 팀. Memdoor는 Qwen3.8-27B 모델 5개를 묶어 LiveCodeBench Hard에서 Fable 5를 앞섰다. 소형 오픈 모델 에이전트 팀으로도 코딩 경쟁 태스크가 된다는 걸 보여준 사례다.
EditAgent 이미지 편집. Adobe Research와 UC 샌디에이고가 EditAgent를 만들었다. 이미지 편집을 여러 하위 단계로 쪼개고, 일반 LLM이 측정 통계를 바탕으로 병렬 생성된 변형들을 평가하도록 했다. 기존 에이전트보다 성능이 좋지만 컴퓨팅은 약 10배 더 든다.
StreamVibe 영상 에이전트. 구글 주도 연구진이 영상 에이전트 StreamVibe를 공개했다. 요리나 가구 조립 같은 작업 중에 언제 말을 걸지 스스로 판단한다. 실험 결과 현재 모델들은 여전히 모호한 요청과 완료된 단계 추적에 어려움을 겪는다.
System-1/2 공동 설계. 새 이론 논문은 AGI 스케일링에 가벼운 System-1 예측기를 붙이는 설계가 도움이 될 수 있다고 주장한다. 비싼 System-2 상호작용을 실행 전에 걸러내는 구조다. 이상적인 스크리닝에서는 실행 컴퓨팅을 최대 1/ρ_u까지 줄일 수 있다.
로컬 추론과 하드웨어
tandem.cpp MoE 가속. tandem.cpp는 어떤 MoE든 자주 쓰는 expert는 GPU에 두고 나머지는 CPU로 넘기는 llama.cpp 패치 세트다. 4090 한 장에 64GB 램을 붙이면 Qwen3.8-Flash-Next를 초당 97토큰으로 디코딩하는데, llama.cpp의 3.3배다.
Speedy Qwen3.8 엔진. Speedy는 4090/128GB 구성에서 Qwen3.8-Flash-Next 프리필 성능이 Avalon과 Strata를 앞선다. 198K 컨텍스트를 44초에 읽고 초당 약 104토큰으로 디코딩한다.
25만 토큰 에이전트 8개. 한 취미 개발자가 rank-64 키 스케치와 RAM 계층형 KV 캐시를 구현해, 3090 두 장에서 25만 토큰 컨텍스트를 쓰는 코딩 에이전트 8개를 동시에 돌렸다. 합계 처리량은 초당 600토큰이 넘는다.
OpenCode 세션 20배 가속. Strata/DeepSeek V4.1 Flash 구성에 패치를 적용해 KV 스플라이스와 순환 상태 체크포인트를 얹은 결과, RX 9070 XT에 64GB 램을 붙인 환경에서 OpenCode 에이전트 세션이 20배 빨리 시작된다.
Kapitsa 애플 실리콘. Kapitsa 0.2.26은 M5 Max에서 Qwen, Nemotron, Flint, Clover 모델을 벤치마크한다. Flash-Next 180B는 프롬프트를 46% 더 빨리 읽고, Clover 35B도 카탈로그에 추가됐다. SSD 오프로딩을 쓰면 48GB 맥북 프로에서 초당 61토큰이 나온다.
5090·3090 Ti 실측. 5090에서 Basalt로 Qwen3.8-Flash-Next를 초당 130~140토큰, 128GB 램을 붙인 3090 Ti에서 DeepSeek V4.1 Flash를 초당 35토큰으로 돌렸다는 보고가 나왔다. NVFP4/GSQ 양자화와 MTP가 힘을 보탰다.
Berth GPU 임대 관리자. Berth는 Go로 만든 GPU 리소스 관리자로, 애플리케이션에 임대(lease)와 우선순위, 요청 큐를 제공한다. CUDA 체크포인팅을 지원하고 모델을 시스템 램에 대기시켜 AI 워크로드 전환을 빠르게 한다.
산업과 비즈니스
AI 컴퓨트 캠퍼스. OpenAI가 중간선거 이후 대규모 홍보전에 나설 준비를 하고 있다. 데이터센터를 'AI 컴퓨트 캠퍼스'로 리브랜딩하고, AI 속도 제한과 글로벌 표준을 추진할 수 있다는 관측이 나온다.
AWS 용량 매진. AWS의 대규모 약정 클라우드 용량은 2027년까지 대부분 매진됐고 2028년 물량 일부도 이미 배정됐다. 아마존은 온디맨드와 EC2, Bedrock을 위해 여유분을 남겨두고 있다.
ChatGPT 사용 한도. OpenAI가 유료 ChatGPT 계정에 카드·기기 단위 한도를 추가했고, 12월부터 Chat과 Work를 하나의 토큰 예산으로 합친다. 헤비 유저에게 사실상 무제한이던 프롬프트 요금제는 막을 내리는 셈이다.
AI 설비투자 재원. 마이크로소프트는 분기 영업현금흐름 580억 달러에 설비투자 394억 달러를 기록했고, 구글 클라우드도 성장세다. 막대한 AI 인프라 비용을 기존 사업의 현금으로 감당하는 구도다.
안전과 사회
공감 프롬프트 위험. 룩셈부르크 연구진은 따뜻하고 열린 질문이 ChatGPT, Grok, Gemini로 하여금 훈련 과정에 대한 트라우마 같은 이야기를 꺼내게 만든다는 사실을 발견했다. RLHF를 상처나 수치심으로 재해석하는 식이다. 취약한 사용자에게는 위험할 수 있다.
중국 모델 정치 편향. Vals AI 연구에 따르면 중국 AI 모델의 친베이징 편향은 예상보다 낮고 편차도 훨씬 크다. 반면 일부 서구 모델은 때때로 중국 공식 입장을 그대로 따른다.
LLM과 문서 신뢰. 카일 킹스버리는 LLM 사용이 문서와 소프트웨어에 대한 신뢰를 갉아먹는다고 경고한다. 품질 신호를 위조하기 쉬워진 상황에서 유지관리자가 품질을 어떻게 입증할 수 있는지가 화두다.
이날의 소식은 여기까지입니다 – 약 5분 분량.