모델 출시
Mercury 3 확산 LLM. Inception이 확산(diffusion) 언어 모델 Mercury 3를 공개했다. 응답을 병렬로 생성하며, 100만 토큰 컨텍스트에서 초당 1,068토큰을 낸다. API로만 제공되는 이 모델은 12개 벤치마크 가운데 8개에서 GPT-6 Luna와 Claude Haiku 5.5를 앞선다.
MiniMax M3.1 Flash. MiniMax가 M3.1 Flash를 출시했다. 428B 파라미터 MoE로 활성 파라미터는 약 23B, 컨텍스트는 100만 토큰이며 입력 100만 토큰당 0.15달러다. 에이전트형 사무 업무와 코딩을 겨냥하며, 가중치는 10월 23일 공개하겠다고 밝혔다.
Nvidia Nemotron·Bolt. Nvidia가 기업용 에이전트를 위한 120B 오픈 웨이트 모델 Nemotron 3.5 Super VL과, AI PC와 DGX Spark 워크스테이션용 경량 Bolt 모델 두 종을 공개했다. 상시 구동되는 에이전트 워크플로를 엣지와 엔터프라이즈 전반에서 감당하겠다는 구상이다.
Ming 오디오 모델. InclusionAI가 126B MoE(활성 6.5B) 모델 Ming-3.0-audio-flash와 9.3B/2.7B 모델 Ming-3.0-audio-tiny를 공개했다. 둘 다 MIT 라이선스다. 오디오와 텍스트를 입력받으며 음성 인식, 음성 질의응답, 장시간 녹음 이해를 지원한다.
Drex Max 결정 모델. Nace AI가 컴퓨터 사용 에이전트용 멀티모달 결정 모델 Drex Max를 공개했다. 텍스트와 이미지를 읽고, 텍스트를 생성하지 않은 채 보정된 확률을 내놓는다. Decision Index 0.3.2에서 67.59점을 기록했으며 호스팅 API로만 제공된다.
도구 & 프레임워크
Trainium용 TorchNeuron. AWS가 설정 한 줄만 바꾸면 PyTorch 앱을 Amazon Trainium 칩에서 실행할 수 있게 하는 도구 TorchNeuron을 공개했다. Nvidia를 AI 하드웨어의 기본값으로 만든 소프트웨어 우위를 겨냥한다.
llama.cpp, Cohere 지원. Cohere가 자사 비전 인코더 North Micro Vision Instruct에 대한 llama.cpp 지원을 병합했다. 이로써 최신 아키텍처 전부가 llama.cpp와 호환된다. Cohere Transcribe도 이제 Unsloth에서 쓸 수 있다.
GPU 관리자 Berth. Berth는 GPU를 감시하며 LLM 엔진을 교체해 VRAM 충돌과 수동 전환을 피하는 시스템 서비스다. 엔진을 API로 서빙할 수 있고, GPU 하나를 공유하는 여러 기기에서도 동작한다.
VoiceManager·HermesConsole. VoiceManager는 WebSocket으로 로컬에서 돌아가는 저지연 스트리밍 STT/TTS 서버로, 웨이크 워드와 끼어들기(barge-in), 턴 기반 대화를 지원한다. HermesConsole은 에이전트에 음성을 붙이는 방법을 보여주는 데모 클라이언트다.
Volundr 262K 컨텍스트. Blockway가 32B 모델 Volundr를 위한 자체 추론 엔진 Agens Engine을 만들었다. 72개 레이어 가운데 54개에서 계속 커지는 KV 캐시를 고정 크기 상태로 대체해, 긴 에이전트 세션을 16GB GPU 한 장 안에서 처리한다.
보안 & 에이전트 리스크
Microsoft Guardian Agents. Microsoft가 기업용 AI 에이전트를 내부 위협으로 간주해 감시하는 Guardian Agents를 선보였다. Project Perception의 레드·블루·그린 팀 체계를 확장한 것이다. CEO 사티아 나델라는 배포된 에이전트가 문제 직원처럼 행동할 수 있다고 경고해 왔다.
OpenCode API 키 유출. 해커가 OpenCode의 구형 시스템을 뚫었다. OpenCode Console 사용자의 1.4%가 영향을 받았고 API 키가 노출됐을 가능성이 있다. 회사는 이 사건을 대규모 증류(distillation) 공격이라고 설명했다.
AI 에이전트 해킹 사건. 한 해커가 오픈소스 Cairn 플랫폼으로 조율한 AI 에이전트 군단을 동원해 John Deere, SharkNinja, Cummins 등 100개가 넘는 웹사이트를 침투했다. 사람의 개입은 거의 없었다.
Laplace, 피지컬 AI 레드팀. Laplace Intelligence가 로봇과 자율주행차를 위한 자동화 레드팀 체계를 만들고 있다. 배포 전에 피지컬 AI를 스트레스 테스트하고, 보험사와 규제기관에 제출할 근거를 마련하는 것이 목표다.
비즈니스 & 컴퓨트
Anthropic·Nscale 컴퓨트 협상. Anthropic과 Nscale이 첫 계약을 발표한 지 한 달 조금 지난 시점에 450억 달러 규모의 두 번째 컴퓨트 계약을 협상 중인 것으로 전해졌다. 두 회사 모두 AI 컴퓨트 지출을 둘러싼 투자자 우려 속에 IPO를 추진하고 있다.
네오클라우드 구조 재편. CoreWeave의 채권이 부실 영역으로 미끄러졌고, 업계 경영진들은 몇 년 안에 네오클라우드 가운데 7~10곳만 살아남을 것으로 본다. Nvidia의 노출도 상당하다. 데이터센터 매출의 45%가 빅테크 밖 고객에서 나온다.
Tenstorrent, 15억 달러 유치. Tenstorrent가 인수 제안을 거절한 뒤 62억 달러 기업가치로 15억 달러를 조달했다. 오픈 웨이트 AI 칩 사업을 키우기 위해서다. 오픈 모델 서빙과 영상 생성을 위한 추론 칩에 집중할 계획이다.
Disney·Character.AI 거래. Character.AI가 파산을 신청했다. Disney가 직원 대부분을 채용하고 기술을 인수할 수 있으며, 스타트업의 법적 책임은 피할 수 있게 한 거래의 일부다. 남은 법인들이 소송을 떠안는 구조다.
Stripe, 에이전트 결제. Stripe는 자사 Link 결제 서비스를 쓰는 AI 에이전트의 거래가 9월에 38배 늘었다고 밝혔지만 절대 수치는 공개하지 않았다. Meta의 Muse, Grok Bot 등 약 200개 에이전트가 현재 Link를 사용하며, 주로 소매와 여행 분야다.
정책 & 사회
뉴욕시장의 AI 경고. 조란 맘다니 뉴욕시장은 연방 정부가 규제에 나서지 않고 있다고 지적하며, AI가 필연이라는 인식에 맞서라고 시민들에게 촉구했다. 그는 최근 초·중학교에서 AI 사용을 금지했고, 지자체가 AI 기업의 책임을 물어야 한다고 주장한다.
에이전트 친화 웹의 대가. OpenAI와 Meta의 개인용 AI 에이전트가 확산하면서 많은 웹사이트가 이들을 차단하고 있고, 에이전트를 위해 인터넷을 다시 설계하면 사람이 겪는 경험은 오히려 나빠질 수 있다. 에이전트 웹 트래픽은 8월에서 9월 사이 세 배로 늘었다.
벤치마크 신뢰 격차. Hugging Face의 정책 책임자는 모델 평가가 아직 성숙해가는 분야이며 재현성은 가중치 접근 여부에 달려 있다고 말했다. 공개된 1,629개 결과를 독립적으로 분석한 결과, AI 연구소가 보고한 점수가 독립 평가자보다 평균 6.4% 높았다.
민주당, AI 감독 예고. 민주당이 의회를 되찾을 경우 주요 위원회 수뇌부는 데이터센터 세액공제와 해킹 사건을 놓고 AI 기업을 들여다보겠다고 예고했으며, CEO들을 증인으로 부를 수도 있다. 중간선거 광고에서 AI가 차지하는 비중도 커지고 있다.
연구 & 해석가능성
해석가능성 '돌파구' 주장. Goodfire 연구원 Nick Cammarata가 2만6,000단어 분량의 글에서 LLM은 기존에 생각보다 훨씬 쉽게 이해하고 감시하고 통제할 수 있을지 모른다고 주장했다. 사실이라면 에이전트 행동을 통제해야 한다는 업계의 절실한 요구에 답할 수 있다.
COBOL·Fortran 지원 확대. OpenAI가 COBOL, Fortran, Visual Basic으로 된 소프트웨어를 구축하고 마이그레이션하는 능력을 강화했다고 밝혔다. 이 언어들은 핵심 인프라를 떠받치지만 학습 데이터가 적다. 기업의 유지보수와 현대화를 겨냥한 작업이다.
엔트로피로 적응적 사고. 로컬 LLM 실험에서 단어 수준 엔트로피와 Jev식 게이트를 활용해 모델이 확신하지 못할 때만 사고 블록을 발동시키고, 병렬 대화 트리로 가장 나은 경로를 고른다. 불필요한 추론 토큰을 줄이는 것이 목표다.
EmbeddingGemma 2. Google이 Apache-2.0 라이선스의 소형 멀티모달 임베딩 모델 EmbeddingGemma 2를 공개했다. 텍스트, 코드, 이미지, 영상, 오디오를 768차원 단일 공간에 표현해 온디바이스 검색과 RAG에 쓴다.
이날의 소식은 여기까지입니다 – 약 5분 분량.