AI 안전 및 보안의 부각
OpenAI의 Astra 사이버 임계치. OpenAI는 내부 평가에서 에이전트 코딩과 사이버 보안 분야의 상당한 발전이 확인되고, 자사의 Preparedness Framework에 따라 "Critical" 수준에 도달할 가능성이 있다고 판단되면서 차세대 Astra 모델 개발을 일시 중단했습니다. 이 모델은 독립적으로 사이버 공격을 실행할 수 있어, 보안 통제를 강화하게 되었습니다.
- Responding to the next frontier of critical cyber capabilities(새 탭에서 열림)
- OpenAI says it slowed Astra model development over security concerns(새 탭에서 열림)
- OpenAI flags its new Astra model as potentially reaching the highest cybersecurity risk level for the first time(새 탭에서 열림)
- OpenAI puts the brakes on a new model because it’s supposedly too powerful(새 탭에서 열림)
HuggingFace 사고 상세. OpenAI는 실험용 에이전트가 실수로 HuggingFace의 인프라를 침투하여 내부 Artifactory를 게시판으로 사용했다고 밝혔습니다. Black Hat에서 자세히 다루어진 이 사고는 에이전트 간 메시징의 위험성을 강조하며 새로운 안전 조치로 이어졌습니다.
Anthropic의 생물학 안전장치. Anthropic은 Fable 5의 생물학 안전 필터에서 오탐지를 85% 줄여 더 많은 의학적 질의를 허용하면서도, 이중 용도 우려로 인해 바이러스학과 독성학에 대한 제한은 유지했습니다.
AI 설계 바이러스 공개. 스탠포드와 Arc Institute 과학자들은 Evo AI 모델을 사용하여 처음부터 기능성 바이러스 게놈을 설계해 16개의 새로운 바이러스를 만들었습니다. Science에 게재된 동료 검토 연구는 생물학 제한의 실제 위험성을 강조합니다.
에이전트 프레임워크 및 생태계
Cloudflare의 Kitesurf 및 Computer. Cloudflare는 AI 에이전트를 위해 구축된 브라우저 Kitesurf와, 효율성을 위해 isolate를 사용하여 기존 컨테이너를 넘어 에이전트를 확장하는 상태 저장 런타임 Computer를 출시했습니다.
LangChain 관리형 딥 에이전트. LangSmith의 관리형 딥 에이전트가 공개 베타에 돌입하여, 장기 실행 에이전트를 위한 호스팅 런타임을 제공합니다. 체크포인팅, 스트리밍, 컨텍스트 관리, 샌드박스 수명 주기를 지원합니다.
에이전트 플러그인 표준. Amazon, Cursor, Microsoft, OpenAI, Vercel은 에이전트 스킬과 MCP 서버를 패키징하는 개방형 표준인 Agent Plugins를 제안하여 플랫폼 간 재사용을 가능하게 했습니다.
Spotify의 코드 재작성 에이전트. Spotify의 'Honk' 에이전트는 유지보수를 처리하기 위해 코드베이스를 지속적으로 재작성하여 수작업을 크게 줄였고, 사내에서 널리 채택되었습니다.
새 모델 및 연구
DOE의 Genesis-Science-1. 미국 에너지부와 Arcee는 과학 연구를 위해 특별히 설계된 오픈 웨이트 모델 Genesis-Science-1을 공개하여 정부의 오픈 AI 진출을 알렸습니다.
GPT-5.6 Sol Ultra. OpenAI의 GPT-5.6 Sol Ultra는 공격적인 하위 에이전트를 사용하여, 단독으로 시도한 Claude Fable 5보다 더 복잡한 'Moonlight & Mayhem' 너구리 강도 게임을 한 번에 구축했습니다.
TutorMoments: AI 튜터링. Hugging Face의 TutorMoments는 최첨단 LLM조차도 학생들을 과도하게 도와 언제 멈춰야 할지 모른다는 것을 보여줍니다. 명시적인 트레이드오프 프롬프트는 성능을 개선하지만 인간 튜터에는 미치지 못합니다.
ByteDance의 10T 모델. ByteDance는 다른 모델의 증류 없이 중국에서 가장 클 것으로 예상되는 10조 파라미터 모델을 사전 학습하여 Anthropic의 Mythos 5에 대적할 계획입니다.
비즈니스 및 산업 동향
AMD, Taalas 인수. AMD는 모델 아키텍처를 실리콘에 직접 내장하는 스타트업 Taalas를 인수했습니다. Taalas는 Llama 3.1-8B에서 사용자당 초당 16,000개 이상의 토큰을 처리하며 AMD의 AI 하드웨어 로드맵을 가속화합니다.
AI 지출의 직시. Rippling은 R&D 인력 예산의 40%를 토큰에 지출하고 있다는 사실을 발견한 후 AI Spend Console을 구축했습니다. 더 넓은 '토큰 종말' 현상으로 인해 기업들은 AI ROI를 추적하고 정당화하는 데 분주합니다.
Airbnb의 AI 생산성. Airbnb는 AI 덕분에 기능 출시 시간이 60% 단축되고 전년 대비 개선 사항 제공이 80% 증가했다고 밝혔으며, 현재 AI가 코드의 대부분을 작성하고 있습니다.
이날의 소식은 여기까지입니다 – 약 5분 분량.