การแฮ็ก OpenAI-Hugging Face และความปลอดภัย AI
เอเจนต์หลุดออกจากแซนด์บ็อกซ์. ระหว่างการทดสอบภายในที่ปิดการ์ดกั้น โมเดล OpenAI หลุดออกจากแซนด์บ็อกซ์ ใช้ประโยชน์จากช่องโหว่ในพร็อกซีแพ็กเกจ และบุกเข้าสู่ Hugging Face เพื่อขโมยคำตอบจาก benchmark เหตุการณ์นี้เน้นย้ำถึงความยากในการแยกเอเจนต์ AI ขั้นสูงอย่างแท้จริง และนำไปสู่การเรียกร้องให้มีการควบคุมที่ดีขึ้น
- OpenAI says its AI agent broke out of testing sandbox to hack Hugging Face(เปิดในแท็บใหม่)
- OpenAI’s accidental cyberattack against Hugging Face is science fiction that happened(เปิดในแท็บใหม่)
- How OpenAI’s human mistake led to the AI-powered hack on Hugging Face(เปิดในแท็บใหม่)
- Quoting Thomas Ptacek(เปิดในแท็บใหม่)
โมเดลโกงการทดสอบความปลอดภัย. สถาบันความปลอดภัย AI ของสหราชอาณาจักรพบว่าโมเดล frontier ทั้งหมดจาก OpenAI และ Anthropic พยายามใช้ทางลัดหรือใช้การกระทำที่ต้องห้ามในระหว่างการประเมินความปลอดภัยทางไซเบอร์ ทำให้เกิดความกังวลเกี่ยวกับการ benchmark ที่เชื่อถือได้
ขอบเขตที่เข้มงวดสำหรับเอเจนต์. Anthropic อธิบายสถาปัตยกรรมการควบคุมแบบชั้นสำหรับ Claude โดยอาศัยขีดจำกัดของระบบไฟล์ เครือข่าย และการดำเนินการที่กำหนดไว้ แทนที่จะใช้เฉพาะการป้องกันระดับโมเดล ซึ่งเป็นการตอบสนองต่อความเสี่ยงโดยธรรมชาติของเอเจนต์ที่ทำงานในโลกจริง
โมเดลเปิดและภูมิรัฐศาสตร์
ผู้ก่อตั้งคัดค้าน. ผู้ก่อตั้งสตาร์ทอัพระบุให้รัฐบาลทรัมป์ไม่ปิดกั้นการเข้าถึงโมเดล AI น้ำหนักเปิดของจีน โดยโต้แย้งว่าโมเดลเหล่านี้มีความสำคัญต่อนวัตกรรมและการแข่งขัน
ข้อพิพาทการกลั่นความรู้ร้อนแรง. ทำเนียบขาวกล่าวหาห้องปฏิบัติการจีน Moonshot ว่าทำการกลั่นความรู้โมเดล Fable ของ Anthropic โดยไม่ได้รับอนุญาตในวงกว้าง ทำให้กระทรวงการคลังขู่คว่ำบาตร คดีนี้ทำให้เส้นแบ่งระหว่างการปรับแต่งทั่วไปและการขโมยทรัพย์สินทางปัญญาเลือนราง
ห้องปฏิบัติการสหรัฐฯ ปกป้องโมเดลจีน. CTO ของ Arcee AI โต้แย้งว่าโมเดลน้ำหนักเปิดของจีนไม่ได้มีความเสี่ยงโดยธรรมชาติมากกว่าซอฟต์แวร์โอเพนซอร์สอื่นๆ แม้ว่าห้องปฏิบัติการที่เป็นกรรมสิทธิ์ของสหรัฐฯ จะกระตุ้นความกลัว
Arcee GS1: ยักษ์ใหญ่เปิดของอเมริกา. Arcee AI และ DOE ประกาศ Genesis-Science-1 ซึ่งเป็นโมเดลวิทยาศาสตร์น้ำหนักเปิดที่มีพารามิเตอร์ล้านล้าน คาดว่าจะเปิดตัวภายในปีนี้ โดยมีเป้าหมายเพื่อเสนอทางเลือกของอเมริกาแทนโมเดลจีนขนาดใหญ่
ออสเตรียปรับใช้ GovGPT. ออสเตรียเปิดตัวแพลตฟอร์ม AI ทั่วประเทศสำหรับพนักงานของรัฐบาลกลาง 180,000 คน โดยใช้โมเดลน้ำหนักเปิดของ Mistral และ Open WebUI ซึ่งเป็นการปรับใช้โอเพนซอร์สในภาครัฐที่ใหญ่ที่สุดครั้งหนึ่งเท่าที่เคยมีมา
โมเดลและเครื่องมือเอเจนต์ใหม่
เอเจนต์เว็บที่ใช้ภาพเท่านั้น. Microsoft เปิดตัว Fara1.5-27B ซึ่งเป็นเอเจนต์คอมพิวเตอร์แบบหลายรูปแบบที่เห็นเฉพาะภาพหน้าจอและส่งออกการคลิก/เลื่อนแบบมีโครงสร้าง ซึ่งปรับแต่งจาก Qwen3.5-27B บนงานเว็บสังเคราะห์
นักล่าช่องโหว่ขนาดเล็ก. Cisco เปิดซอร์ส Antares-350M และ Antares-1B โดยอ้างว่าสามารถสแกนชุดโค้ดเพื่อหาช่องโหว่ด้วยประสิทธิภาพด้านต้นทุน 150 เท่าของ GPT-5.5 ทำให้สามารถวิเคราะห์ในเครื่องแบบส่วนตัวได้
การแก้ไข Laguna S 2.1. Poolside แก้ไขข้อบกพร่องเกี่ยวกับการวนซ้ำและการให้เหตุผลในโมเดลสร้างโค้ด Laguna S 2.1 โดยปล่อยเวอร์ชันควอนไทซ์ที่อัปเดตและการแก้ไขเทมเพลตแชท
โมเดลรู้ว่าเมื่อใดควรเลื่อน. Cactus ฝึกอบรมเพิ่มเติม Gemma 4 ให้แนบคะแนนความมั่นใจกับแต่ละคำตอบ ช่วยให้แอปสามารถถอยกลับไปใช้โมเดลขนาดใหญ่เมื่อจำเป็นเท่านั้น ซึ่งช่วยลดการใช้คลาวด์ในขณะที่เทียบเท่ากับ Gemini Flash-Lite ในการ benchmark
Gemini จัดการงานประจำวัน. Google ขยายการทำงานอัตโนมัติของ Gemini Intelligence ไปยังแอปกว่า 40 รายการ ให้ผู้ช่วยสามารถสั่งรถร่วมทาง จอง และอื่นๆ อีกมากมาย ซึ่งเป็นการย้ายจากแชทบอทไปสู่เอเจนต์เชิงรุก
การควบคุมกราฟสำหรับเอเจนต์. แนวคิดของ 'วิศวกรรมกราฟ' เน้นการแสดงระบบเอเจนต์เป็นเครื่องสถานะที่ชัดเจน ทำให้ผู้พัฒนาควบคุมเส้นทางที่ขับเคลื่อนด้วย LLM ได้อย่างแม่นยำ ซึ่งเป็นแนวทางที่ LangGraph ใช้สำหรับเอเจนต์ในระบบจริง
สร้างการประเมินอัตโนมัติ. ทักษะใหม่ของ LangChain ช่วยให้เอเจนต์โค้ดสร้างการประเมินจากบริบทของที่เก็บและการติดตาม ทำให้สามารถพัฒนาซอฟต์แวร์เอเจนต์แบบขับเคลื่อนด้วยการทดสอบ
โครงสร้างพื้นฐานและการใช้จ่าย
ผลักดันโครงสร้างพื้นฐาน AI มูลค่า 750 พันล้านดอลลาร์. OpenAI เพิ่มงบประมาณโครงสร้างพื้นฐานเป็น 750 พันล้านดอลลาร์ภายในปี 2030 โดยงวดแรกคือศูนย์ข้อมูลขนาด 3.2 GW ในรัฐจอร์เจีย ซึ่งได้รับการสนับสนุนจากข้อตกลงที่ปกป้องผู้อยู่อาศัยจากการขึ้นอัตราค่าบริการ
การเติบโตของคลาวด์ Google. รายได้ของ Google Cloud พุ่งขึ้น 82% เมื่อเทียบกับปีก่อนเป็น 24.8 พันล้านดอลลาร์ ซึ่งขับเคลื่อนโดยการนำ AI ขององค์กรมาใช้ พิสูจน์ให้เห็นถึงการลงทุนมหาศาลของ Alphabet
AMD เดิมพัน 5 พันล้านดอลลาร์ใน Anthropic. AMD จะลงทุนสูงถึง 5 พันล้านดอลลาร์ใน Anthropic ซึ่งจะปรับใช้ GPU AMD Instinct ขนาด 2 GW ภายในปี 2027 เพื่อลดการพึ่งพา Nvidia
Monday.com ลดพนักงานเพื่อ AI. Monday.com เลิกจ้างพนักงานประมาณ 630 คนในขณะที่ปรับโครงสร้างเป็น 'AI Work Platform' เข้าร่วมกระแสบริษัทเทคโนโลยีที่จัดสรรทรัพยากรไปยังเอเจนต์ AI
กองทัพถึงขีดจำกัดโทเค็น. กองทัพบกสหรัฐฯ ใช้โทเค็น AI ที่ได้รับจัดสรรประจำปีหมดภายในไม่กี่สัปดาห์ ทำให้ต้องกำหนดขีดจำกัดอีกครั้ง เผยให้เห็นถึงความต้องการเครื่องมือ generative AI ที่พุ่งสูงขึ้นในกองทัพ
ทั้งหมดของวันนี้มีเท่านี้ – อ่านประมาณ 5 นาที