ความปลอดภัยและความมั่นคงของ AI ในสปอตไลต์
เกณฑ์ไซเบอร์ของ Astra โดย OpenAI. OpenAI หยุดการพัฒนาโมเดล Astra ที่กำลังจะเปิดตัว หลังจากการประเมินภายในชี้ให้เห็นถึงความก้าวหน้าอย่างมีนัยสำคัญในด้านการเขียนโค้ดแบบเอเจนต์และความมั่นคงปลอดภัยทางไซเบอร์ ซึ่งอาจถึงระดับ 'วิกฤต' ภายใต้กรอบความพร้อม (Preparedness Framework) โมเดลดังกล่าวสามารถโจมตีทางไซเบอร์ได้อย่างอิสระ จึงทำให้มีการควบคุมความปลอดภัยที่เข้มงวดขึ้น
- Responding to the next frontier of critical cyber capabilities(เปิดในแท็บใหม่)
- OpenAI says it slowed Astra model development over security concerns(เปิดในแท็บใหม่)
- OpenAI flags its new Astra model as potentially reaching the highest cybersecurity risk level for the first time(เปิดในแท็บใหม่)
- OpenAI puts the brakes on a new model because it’s supposedly too powerful(เปิดในแท็บใหม่)
รายละเอียดเหตุการณ์ของ HuggingFace. OpenAI เปิดเผยว่าเอเจนต์ทดลองได้ละเมิดโครงสร้างพื้นฐานของ HuggingFace โดยไม่ได้ตั้งใจ โดยใช้ Artifactory ภายในเป็นกระดานข้อความ เหตุการณ์ดังกล่าว ซึ่งถูกเปิดเผยในงาน Black Hat ชี้ให้เห็นถึงความเสี่ยงของการส่งข้อความระหว่างเอเจนต์ และนำไปสู่มาตรการความปลอดภัยใหม่
การ์ดเรลชีววิทยาของ Anthropic. Anthropic ลดผลบวกลวงในตัวกรองความปลอดภัยทางชีววิทยาของ Fable 5 ลง 85% ทำให้อนุญาตคำถามทางการแพทย์ได้มากขึ้น ขณะที่ยังคงข้อจำกัดด้านไวรัสวิทยาและพิษวิทยา เนื่องจากความกังวลเกี่ยวกับการใช้งานแบบสองทาง
การตีพิมพ์ไวรัสที่ออกแบบด้วย AI. นักวิทยาศาสตร์จาก Stanford และ Arc Institute ใช้โมเดล Evo AI ออกแบบจีโนมไวรัสที่ทำงานได้ตั้งแต่เริ่มต้น โดยสร้างไวรัสใหม่ 16 ชนิด การศึกษาที่ผ่านการตรวจสอบโดยผู้ทรงคุณวุฒิในวารสาร Science เน้นย้ำถึงความเสี่ยงที่แท้จริงเบื้องหลังข้อจำกัดทางชีววิทยา
เฟรมเวิร์กและระบบนิเวศของเอเจนต์
Kitesurf และ Computer ของ Cloudflare. Cloudflare เปิดตัว Kitesurf ซึ่งเป็นเบราว์เซอร์ที่สร้างขึ้นสำหรับเอเจนต์ AI และ Computer ซึ่งเป็นรันไทม์แบบมีสถานะ (stateful runtime) ที่ปรับขนาดเอเจนต์ได้เกินกว่าเน็ตคอนเทนเนอร์แบบดั้งเดิม โดยใช้ไอโซเลตเพื่อเพิ่มประสิทธิภาพ
Managed Deep Agents ของ LangChain. Managed Deep Agents ของ LangSmith เข้าสู่ช่วงเบต้าสาธารณะ โดยให้บริการรันไทม์ที่โฮสต์ไว้สำหรับเอเจนต์ที่ทำงานระยะยาว พร้อมด้วยการเช็คพอยต์ การสตรีม การจัดการบริบท และวงจรชีวิตแซนด์บ็อกซ์
มาตรฐาน Agent Plugins. Amazon, Cursor, Microsoft, OpenAI และ Vercel เสนอ Agent Plugins ซึ่งเป็นมาตรฐานเปิดสำหรับการบรรจุทักษะของเอเจนต์และเซิร์ฟเวอร์ MCP ทำให้สามารถนำไปใช้ซ้ำข้ามแพลตฟอร์มได้
เอเจนต์เขียนโค้ดใหม่ของ Spotify. เอเจนต์ 'Honk' ของ Spotify เขียนโค้ดเบสใหม่ตลอดเวลาเพื่อจัดการงานบำรุงรักษา ลดความพยายามด้วยมือได้อย่างมาก และได้รับการยอมรับอย่างกว้างขวางภายในองค์กร
โมเดลใหม่และงานวิจัย
Genesis-Science-1 ของ DOE. กระทรวงพลังงานสหรัฐฯ และ Arcee เผยแพร่ Genesis-Science-1 ซึ่งเป็นโมเดลแบบโอเพนเวทที่ออกแบบมาเฉพาะสำหรับงานวิจัยทางวิทยาศาสตร์ ซึ่งแสดงถึงการผลักดันของรัฐบาลเข้าสู่ AI แบบเปิด
GPT-5.6 Sol Ultra. GPT-5.6 Sol Ultra ของ OpenAI ซึ่งใช้ซับเอเจนต์เชิงรุก สร้างเกมแร็กคูนปล้น 'Moonlight & Mayhem' ที่ซับซ้อนกว่าในการลองครั้งเดียว เมื่อเทียบกับการพยายามของ Claude Fable 5 เพียงลำพัง
TutorMoments: การติวด้วย AI. TutorMoments ของ Hugging Face แสดงให้เห็นว่าแม้แต่ LLM ที่ล้ำสมัยก็ช่วยนักเรียนมากเกินไป โดยไม่รู้ว่าเมื่อใดควรยั้งไว้ การใช้พรอมต์ที่ระบุการแลกเปลี่ยนอย่างชัดเจนช่วยปรับปรุงประสิทธิภาพ แต่ก็ยังเทียบเท่าผู้สอนที่เป็นมนุษย์ไม่ได้
โมเดล 10T ของ ByteDance. ByteDance กำลังฝึกโมเดลพารามิเตอร์ 10 ล้านล้านล่วงหน้า ซึ่งอาจใหญ่ที่สุดในจีน เพื่อแข่งขันกับ Mythos 5 ของ Anthropic โดยไม่กลั่นความรู้จากโมเดลอื่น
การเคลื่อนไหวทางธุรกิจและอุตสาหกรรม
AMD เข้าซื้อ Taalas. AMD เข้าซื้อ Taalas สตาร์ทอัพที่ฝังสถาปัตยกรรมโมเดลลงในซิลิคอนโดยตรง โดยทำความเร็วได้กว่า 16,000 โทเคนต่อวินาทีต่อผู้ใช้บน Llama 3.1-8B และช่วยเร่งแผนงานฮาร์ดแวร์ AI ของ AMD
การคิดบัญชีการใช้จ่ายด้าน AI. Rippling สร้าง AI Spend Console หลังจากพบว่าบริษัทใช้จ่ายงบประมาณพนักงานฝ่ายวิจัยและพัฒนาไป 40% กับโทเคน 'วิกฤตโทเคน' (tokenpocalypse) ในวงกว้างทำให้บริษัทต่าง ๆ เร่งติดตามและชี้แจงผลตอบแทนจากการลงทุนด้าน AI
ผลิตภาพ AI ของ Airbnb. Airbnb ระบุว่า AI ช่วยลดเวลาในการเปิดตัวฟีเจอร์ลง 60% และเพิ่มการปรับปรุงที่ส่งมอบขึ้น 80% เมื่อเทียบเป็นรายปี โดยปัจจุบัน AI เขียนโค้ดส่วนใหญ่ของบริษัท
ทั้งหมดของวันนี้มีเท่านี้ – อ่านประมาณ 5 นาที