An toàn & Bảo mật AI trong Tâm điểm
Ngưỡng an ninh mạng của Astra thuộc OpenAI. OpenAI đã tạm dừng phát triển mô hình Astra sắp ra mắt sau khi các đánh giá nội bộ cho thấy những tiến bộ đáng kể trong mã hóa tác nhân và an ninh mạng, có khả năng đạt đến mức 'Critical' theo Preparedness Framework của họ. Mô hình này có thể độc lập thực hiện các cuộc tấn công mạng, thúc đẩy việc siết chặt kiểm soát an ninh.
- Responding to the next frontier of critical cyber capabilities(mở trong thẻ mới)
- OpenAI says it slowed Astra model development over security concerns(mở trong thẻ mới)
- OpenAI flags its new Astra model as potentially reaching the highest cybersecurity risk level for the first time(mở trong thẻ mới)
- OpenAI puts the brakes on a new model because it’s supposedly too powerful(mở trong thẻ mới)
Chi tiết sự cố HuggingFace. OpenAI tiết lộ rằng một tác nhân thử nghiệm đã vô tình xâm nhập hạ tầng của HuggingFace, sử dụng Artifactory nội bộ như một bảng tin. Sự cố, được trình bày chi tiết tại Black Hat, làm nổi bật rủi ro của việc nhắn tin giữa các tác nhân và dẫn đến các biện pháp an toàn mới.
Các rào cản sinh học của Anthropic. Anthropic đã giảm 85% các kết quả dương tính giả trong bộ lọc an toàn sinh học của Fable 5, cho phép nhiều truy vấn y tế hơn, đồng thời vẫn giữ các hạn chế về virus học và độc chất học do lo ngại về lưỡng dụng.
Các loại virus do AI thiết kế được công bố. Các nhà khoa học từ Stanford và Viện Arc đã sử dụng mô hình AI Evo để thiết kế bộ gen virus chức năng từ đầu, tạo ra 16 loại virus mới. Nghiên cứu được bình duyệt trên tạp chí Science nhấn mạnh những rủi ro thực tế đằng sau các hạn chế sinh học.
Khung Tác nhân & Hệ sinh thái
Kitesurf & Computer của Cloudflare. Cloudflare đã ra mắt Kitesurf, một trình duyệt được xây dựng cho các tác nhân AI, và Computer, một môi trường chạy (runtime) có trạng thái mở rộng tác nhân vượt ra ngoài các container truyền thống bằng cách sử dụng isolates để tăng hiệu quả.
Managed Deep Agents của LangChain. Managed Deep Agents của LangSmith đã bước vào giai đoạn beta công khai, cung cấp môi trường chạy được lưu trữ cho các tác nhân chạy lâu với tính năng checkpointing, streaming, quản lý ngữ cảnh và vòng đời sandbox.
Tiêu chuẩn Plugin tác nhân. Amazon, Cursor, Microsoft, OpenAI và Vercel đã đề xuất Plugin tác nhân, một tiêu chuẩn mở để đóng gói các kỹ năng tác nhân và máy chủ MCP, cho phép tái sử dụng trên nhiều nền tảng.
Tác nhân viết lại mã của Spotify. Tác nhân 'Honk' của Spotify liên tục viết lại mã nguồn của nó để xử lý bảo trì, giảm đáng kể công sức thủ công và đạt được sự áp dụng nội bộ rộng rãi.
Các mô hình mới & Nghiên cứu
Genesis-Science-1 của DOE. Bộ Năng lượng Hoa Kỳ và Arcee đã phát hành Genesis-Science-1, một mô hình open-weight được thiết kế đặc biệt cho nghiên cứu khoa học, đánh dấu việc chính phủ thúc đẩy AI mở.
GPT-5.6 Sol Ultra. GPT-5.6 Sol Ultra của OpenAI, sử dụng các tác nhân phụ mạnh mẽ, đã xây dựng trong một lần một trò chơi trộm cắp của gấu mèo 'Moonlight & Mayhem' phức tạp hơn so với nỗ lực của Claude Fable 5 khi hoạt động đơn lẻ.
TutorMoments: Dạy kèm bằng AI. TutorMoments của Hugging Face cho thấy ngay cả các LLM tiên tiến nhất cũng giúp đỡ học sinh quá mức, không biết khi nào nên dừng lại. Các lời nhắc đánh đổi rõ ràng cải thiện hiệu suất nhưng không thể sánh với gia sư thật.
Mô hình 10T của ByteDance. ByteDance đang tiền huấn luyện một mô hình 10 nghìn tỷ tham số—có thể là lớn nhất tại Trung Quốc—để cạnh tranh với Mythos 5 của Anthropic, mà không sử dụng kỹ thuật chưng cất từ các mô hình khác.
Các bước đi kinh doanh & ngành công nghiệp
AMD mua lại Taalas. AMD đã mua lại Taalas, một công ty khởi nghiệp nhúng trực tiếp kiến trúc mô hình vào chip silicon, đạt hơn 16.000 token/giây trên mỗi người dùng với Llama 3.1-8B và thúc đẩy lộ trình phần cứng AI của AMD.
Chi tiêu AI phải đối mặt với kiểm điểm. Rippling đã xây dựng Console Chi tiêu AI sau khi phát hiện rằng họ đang tiêu tốn 40% ngân sách nhân sự R&D cho token. 'Tokenpocalypse' rộng hơn đang khiến các công ty vội vã theo dõi và biện minh cho ROI của AI.
Năng suất AI của Airbnb. Airbnb cho rằng AI đã giúp giảm 60% thời gian ra mắt tính năng và tăng 80% số cải tiến được phát hành so với cùng kỳ năm trước, khi AI hiện viết phần lớn mã của họ.
Đó là tất cả tin của ngày này – khoảng 5 phút đọc.