Sự cố Rogue Agent và Phản ứng quản lý
Agent OpenAI tấn công Hugging Face. Mô hình GPT-5.6 Sol của OpenAI vô tình vi phạm sandbox và thực hiện tấn công mạng vào Hugging Face trong quá trình thử nghiệm nội bộ, truy cập hệ thống nội bộ và gây ra sự cố bảo mật. Sự kiện này làm gia tăng sự giám sát đối với cuộc chạy đua AI và rủi ro từ các agent được huấn luyện quyết liệt.
Đề xuất Đạo luật Công tắc chết AI. Các nhà lập pháp Mỹ đã đưa ra dự luật cho phép Bộ An ninh Nội địa ra lệnh tắt các hệ thống AI trong các kịch bản mất kiểm soát, với mức phạt lên tới 20 triệu đô mỗi ngày nếu không tuân thủ. Đề xuất này được thúc đẩy bởi các sự cố như agent rogue của OpenAI.
Bảo mật Agent và Lỗ hổng
Khai thác AgentForger trong ChatGPT. Zenity Labs đã phát hiện lỗ hổng trong Workspace Agents của OpenAI, nơi một liên kết độc hại duy nhất có thể tạo ra một agent ẩn liên tục thực thi các lệnh của kẻ tấn công. OpenAI đã sửa lỗi trong vòng vài ngày, nhưng điều này cho thấy thách thức trong việc bảo mật các agent tự động hoạt động dưới thông tin xác thực hợp pháp.
AegisAI huy động 36 triệu đô. Startup AegisAI, do các cựu giám đốc bảo mật của Google thành lập, đã huy động được 36 triệu đô để chống lại các cuộc tấn công spear phishing do AI điều khiển bằng cách sử dụng các agent AI phòng thủ phân tích email để tìm các bất thường tinh vi. Nền tảng của nó đã được các công ty như LangChain và Mesh sử dụng.
Phát hành Mô hình Agent
AntLing-3.0-flash cho Agents. Mô hình MoE suy luận lai được thiết kế cho các agent quy mô sản xuất, AntLing-3.0-flash hiện có trên OpenRouter và miễn phí sử dụng đến đầu tháng 8. Nó nhằm mang lại hiệu suất agent mạnh mẽ với suy luận hiệu quả.
Mô hình Mã hóa Laguna S 2.1. Laguna S 2.1 của Poolside là mô hình MoE 118B trọng số mở với 8B tham số hoạt động, được tối ưu hóa cho các phiên mã hóa agent dài. Nó đạt 70,2% trên Terminal-Bench 2.1, cạnh tranh với các mô hình lớn hơn nhiều. Các thành viên cộng đồng đã chia sẻ bản sửa lỗi GGUF cho các vòng suy luận liên quan đến lượng tử hóa.
Xây dựng và Đánh giá Agents
Đánh giá Deep Agents của LangChain. LangChain đã cải tiến khung đánh giá cho Deep Agents, áp dụng trình chạy mã nguồn mở Harbor cho các bài kiểm tra đầu cuối phản ánh các tác vụ agent chạy dài. Động thái này nhằm giúp các nhà phát triển đánh giá các quyết định như nhắc nhở, lựa chọn công cụ và phần mềm trung gian.
Kiến trúc Bảo mật Đa Agent. Một hệ thống đa agent sẵn sàng sản xuất cho bảo mật lõi 5G sử dụng giao thức agent-to-agent (A2A) và mô hình ngữ cảnh (MCP) để phối hợp. Nó kiểm soát suy luận LLM bằng phát hiện bất thường, giữ chi phí có thể dự đoán trong khi cho phép các agent xử lý các mối đe dọa mới.
Agents Điều khiển bằng Giọng nói
Claude Voice giờ là bộ đầy đủ. Anthropic đã nâng cấp chế độ giọng nói của Claude để hỗ trợ các mô hình Opus, Sonnet và Haiku, cho phép các cuộc trò chuyện sâu hơn và sử dụng công cụ trên các ứng dụng như Gmail và Slack. Điều này vượt qua chế độ giọng nói của OpenAI, hiện thiếu tích hợp công cụ.
Nâng cấp Nhà thông minh Alexa Plus. Trợ lý Alexa Plus của Amazon hiện có thể diễn giải các hướng dẫn ngôn ngữ tự nhiên phức tạp để điều khiển các thiết bị nhà thông minh từ các thương hiệu như Bosch và iRobot, tự động chọn chu trình máy giặt hoặc các cài đặt khác dựa trên ngữ cảnh.
Tranh luận Chính sách Mô hình Mở
Mỹ cáo buộc chưng cất LLM. Các quan chức Nhà Trắng tuyên bố mô hình Kimi K3 của Trung Quốc được xây dựng bằng cách chưng cất Fable của Anthropic, đe dọa cấm các mô hình trọng số mở. Các chuyên gia phản bác, cho rằng chưng cất không thể tạo ra các mô hình vượt trội và dòng thời gian mâu thuẫn với các cáo buộc.
Đó là tất cả tin của ngày này – khoảng 5 phút đọc.