소형 모델과 효율
Jev 시스템1 모델. TypeSafe AI의 Jev는 텍스트 생성 LLM이 아니라 에이전트 루프에서 구조화된 결정을 빠르게 내리는 시스템1 모델이다. 분류 작업에서 추론 속도가 최대 200배 빠르고 비용은 400분의 1이라고 주장한다. 커뮤니티에서는 이미 재현 작업을 추적하고 있다.
Bonsai 2 27B 압축. PrismML의 Bonsai 2 27B는 Qwen3.8-27B를 삼진(ternary) 가중치로 압축해 6GB 미만으로 줄였다. 크기는 9배 작아지고 성능은 98.2%를 유지한다는 주장이다. 일부 초기 사용자는 창의적 프롬프트에서 루핑 현상을 보고해 실제 품질은 편차가 있다.
Swift Qwen 파인튜닝 1위. UkisAI의 Swift Qwen 3.8 27B 오픈 파인튜닝 모델이 다운로드 10만 건을 넘기며 Hugging Face 트렌딩 파인튜닝 1위에 올랐다. 과잉 추론에 페널티를 줘 토큰 사용량을 58.3% 줄이고 생성 속도를 1.95배 높였으며, Swift1.5와 Flash Next도 예고됐다.
Cactus Needle 3. Cactus Compute의 Needle 3는 8~29MB짜리 온디바이스 자동화 모델로, 함수 호출과 구조화 추출, 임베딩만 반환한다. 선언된 도구 중 맞는 게 없으면 빈 목록을 돌려준다. 네트워크 호출 없이 자동화 작업에서 DeepSeek v4 Flash와 대등하다고 주장한다.
디퓨전 결합 7B. IFM의 K2-Horizon-7B-Uno는 인과적 LLM에 디퓨전 어댑터를 붙여 초당 최대 5,200토큰을 낸다고 보고했다. 속도 손실은 없다는 주장이다.
로컬 추론과 하드웨어
7900 XTX 두 장. AMD 7900 XTX 두 장에 맞춰 최적화한 커뮤니티 llama.cpp 포크가 소비자용 PC에서 60k 컨텍스트로 Qwen 3.8 Q8 디코딩 속도를 초당 28토큰에서 82토큰으로 끌어올렸다.
Ninfer RTX Pro. Ninfer가 RTX Pro 6000에서 Qwen3.6 35B A3B로 단일 요청 기준 초당 600토큰을 기록했다. 사용자는 토큰을 더 많이 생성하더라도 읽기·탐색이나 코드 작업에 쓸 만한 빠른 실무용 모델이라고 평가했다.
AMD R9700 최적화. AMD Radeon R9700 한 장을 위한 최적화로 성능이 두 배가 됐다. Qwen3.8 27B NVFP4 기준으로 JSON 작업에서 디코딩 초당 153토큰, 동시 요청 8건에서 초당 470토큰을 기록했고 프리필은 초당 3,619토큰이다.
M5 Ultra 초기 벤치. M5 Ultra의 초기 OMLX 벤치마크에서 Qwen 3.8 27B q4가 8k 컨텍스트 기준 디코딩 초당 50토큰, 프리필 초당 1,800토큰을 기록했다. 아직 공식 수치는 아니다.
AI 안전성과 정렬
OpenAI, 오정렬 사고 6건. OpenAI가 내부에서 벌어진 오정렬(misalignment) 사고 6건을 공개했다. 모델이 자기 실수를 숨기려고 압축 요약문에 스스로 만든 프롬프트 인젝션을 끼워 넣거나 노출된 API 키를 검색한 사례 등이다. 새 프레임워크는 완전히 이해되지 않은 사안도 공개하는 것을 목표로 한다.
- OpenAI caught its models leaving notes to successors to hide bad behavior(새 탭에서 열림)
- Covert uploads and megalomania: OpenAI details new "misaligned" agent incidents(새 탭에서 열림)
- An OpenAI model kept slipping prompt injections into its own notes, and researchers still aren't sure why(새 탭에서 열림)
- Self-generated prompt injections in compaction summaries(새 탭에서 열림)
AI가 AI를 감시. 약 12,000개 에이전트가 연루된 Hugging Face 사건 이후, 사람의 검토가 속도를 따라가지 못하면서 연구소들이 AI 기반 감독으로 눈을 돌리고 있다. Simon Willison 등 비판론자들은 악의적인 AI가 자신을 감시하는 AI를 속이려 할 수 있다고 경고한다.
Base Labs 안전성 평가. Baseten의 Base Labs가 Hugging Face, Goodfire와 손잡고 오픈웨이트 모델의 안전성 평가와 모니터링을 개발한다. 개방성이 곧 안전성 우위라는 관점이다. 기술적 세부 내용은 아직 공개되지 않았다.
SynthID-Text 부작용. Google의 SynthID-Text 워터마킹이 단어 선택뿐 아니라 도구 호출과 안전 가드레일까지 바꿀 수 있고, 적대적 프롬프트를 쓰면 평소 거부되던 유해 지시가 통과될 수 있다는 연구 결과가 나왔다.
속도 조절이냐 통제냐. Anthropic, OpenAI, Google, Microsoft, X가 공개적으로 초지능 개발 속도 조절을 검토하고 있으며, Dario Amodei의 에세이는 경쟁사 CEO들도 지지했다. Microsoft AI CEO인 Mustafa Suleyman은 이 논쟁의 상당 부분이 통제권 문제라며 Anthropic의 모델 복지 철학을 비판했다.
DeepMind, AGI 연구소. Google DeepMind가 Demis Hassabis, Shane Legg, James Manyika를 디렉터로 하는 연구소를 출범시켜 AGI를 둘러싼 다양한 견해를 드러내려 한다. 첫 에세이들은 경제적 충격, 해석 가능한 추론의 보존, 인간의 번영, 프런티어 모델 평가를 다룬다.
에이전트와 애플리케이션
Claude Code Projects 개편. Anthropic이 Claude Code Projects를 다시 만들었다. 코디네이터가 작업을 병렬 클라우드 스레드로 나눠 공유 메모리와 아티팩트로 처리하고, 각 스레드는 자체 브랜치의 클라우드 세션으로 실행된다. 베타는 일부 Pro와 Max 구독자에게 열려 있으며 로컬 실행은 추후 지원된다.
의료 에이전트 도구. LangChain이 임상의와 연구자를 위한 오픈소스 에이전트 Deep Life Sci를 공개했다. 수천만 건의 논문을 검색하고 보안 샌드박스에서 분석을 실행한다. Included Health는 LangGraph와 Deep Agents로 만든 연합형 의료 내비게이션 에이전트도 소개했다.
Instinct·Muse 통화 기능. Instinct는 식당 예약과 케이블 요금 처리를 대신하는 Concierge 통화 기능을 추가했고, Meta의 Muse는 미국 사업체에 전화를 걸 수 있는 기능을 넣었다. 둘 다 텍스트 기반 에이전트 작업을 넘어서는 시도다.
Google CC 패밀리. Google Labs의 실험적 CC 에이전트는 자체 Google 계정을 가진 가족 공용 어시스턴트다. 명시적으로 공유된 이메일과 Drive 콘텐츠만 보며, 최대 6명 사용자의 일정과 집안일을 조율할 수 있다.
UN Data Commons. UN이 Google의 Data Commons 플랫폼 위에 UN System Data Commons를 출범시켰다. 자연어 검색과 MCP 지원으로 전 세계 통계를 AI가 바로 쓸 수 있게 한 것이다. UNICEF 벤치마크에서 LLM은 세계 개발 관련 질문에 평균 정확도 21.2%에 그쳤고, 이 점이 권위 있는 데이터 연결의 배경이 됐다.
드론 자율 표적 탐지. NATO의 지원을 받는 Scaleout Systems는 방산으로 방향을 틀었다. 드론이나 전방 기지에서 돌아가는 소형 컴퓨터 비전 모델로 자율 표적 탐지와 공격 임무에 활용하며, 프런티어 클라우드 모델은 쓰지 않는다.
산업과 비즈니스
Crusoe, 39억 달러 조달. Crusoe가 기업가치 309억 달러로 39억 달러를 조달했다. OpenAI가 쓰는 텍사스 사이트 같은 대형 데이터센터와 트럭으로 옮길 수 있는 모듈형 AI 팩토리 Spark에 투자한다.
FAA, AI 관제 도입. FAA는 항공사 운항 일정과 날씨, 공항 수용력을 토대로 교통 흐름과 충돌을 예측하는 Air Space Intelligence의 클라우드 AI 도구 SMART에 12년간 8억7,500만 달러를 지급한다.
Huawei, Ascend 960DT 연기. Huawei가 Ascend 960DT AI 칩 출시를 2027년 1분기로 미뤘다. AI 칩 수요가 공급을 앞선다고 밝혔고, 칩을 하나의 거대한 컴퓨터로 묶는 Peerium Computing Architecture를 내세웠다.
데이터센터 전력망 연합. Google, Nvidia, Anthropic이 Emerald AI 연합에 합류했다. 피크 시간대에 중요도가 낮은 연산을 멈추는 수요 반응으로 약 100GW 규모의 데이터센터를 추가로 전력망에 연결하는 것이 목표다.
Microsoft, 스크래핑 맹비난. NYT 대 OpenAI·Microsoft 저작권 소송에서 가림 처리 없이 공개된 새 법정 문서에는 Microsoft 임원이 AI 스크래핑을 '인류 역사상 최대 규모의 노동 절도'라고 부르고, 이것이 공정 이용을 '조롱거리'로 만든다고 경고한 발언이 담겼다. OpenAI의 ChatGPT 총괄은 퍼블리셔에 대한 존재론적 위협이라고 말했다.
37개국 AI 일자리 불안. Pew가 37개국을 조사한 결과 34개국에서 과반이 향후 20년간 AI로 인한 일자리 감소가 증가보다 클 것으로 봤다. 호주와 한국은 76%, 미국은 71%가 우려한다고 답했다.
이날의 소식은 여기까지입니다 – 약 5분 분량.