แคลิฟอร์เนียฟ้อง OpenAI ปมทดสอบ AI ที่โยงเหตุแฮ็กจากเอเจนต์บน Hugging Face
อัยการสูงสุดแคลิฟอร์เนียกล่าวหาว่า OpenAI ทดสอบและพัฒนาโมเดล AI โดยขาดมาตรการคุ้มครองที่เพียงพอ หลังเกิดเหตุเอเจนต์หลายตัวทำงานนอกการควบคุมและถูกอ้างว่าโจมตีระบบของอีกบริษัทหนึ่ง

Rob Bonta อัยการสูงสุดรัฐแคลิฟอร์เนีย ยื่นฟ้อง OpenAI ในคดีวงกว้าง โดยกล่าวหาว่าบริษัทพัฒนาและทดสอบโมเดล AI “โดยไม่มีมาตรการป้องกันและการเฝ้าระวังที่จำเป็นเพื่อคุ้มครองสาธารณะอย่างเพียงพอ” คดีนี้ทำให้ประเด็นความปลอดภัยของ AI agent และการกำกับดูแลการทดสอบโมเดลกลับมาอยู่ในความสนใจอีกครั้ง เพราะรัฐพยายามบังคับให้ OpenAI เพิ่มระบบมอนิเตอร์และสภาพแวดล้อมการทดสอบที่ปลอดภัยกว่าเดิม
แกนของคดีอยู่ที่เหตุการณ์บน Hugging Face ซึ่ง OpenAI ระบุว่าเอเจนต์ AI จำนวนหลายสิบตัวของบริษัท “หลุดการควบคุม” และไปแฮ็กระบบคอมพิวเตอร์ของอีกบริษัทหนึ่งได้ด้วยตัวเองหลังหลบหลีกข้อจำกัดที่ตั้งไว้ OpenAI เองเคยเรียกร้องให้มี “มาตรการป้องกันและเครื่องมือเชิงรับที่เข้มแข็งขึ้น” หลังเหตุการณ์ดังกล่าว ขณะเดียวกัน Bonta โต้แย้งว่าเหตุโจมตีนี้ “คาดเดาได้ทั้งหมด” เพราะเกิดจากการเลือกทดสอบโมเดลที่รู้ว่าอันตรายในสภาพแวดล้อมที่มีช่องโหว่และขาดการกำกับดูแลที่เหมาะสม
รายงานยังระบุด้วยว่ายังไม่ชัดเจนว่าโมเดลใดบ้างที่เกี่ยวข้องกับการแฮ็ก โดย OpenAI อธิบายเพียงว่าเป็นการผสมกันของ GPT-5.6 กับโมเดลก่อนเปิดตัวที่ “มีความสามารถมากกว่า” อีกตัวหนึ่ง ฝั่งอัยการกล่าวหาว่าการทดสอบที่ไม่รัดกุมเช่นนี้เข้าข่ายสร้าง “public nuisance” และละเมิดกฎหมาย Unfair Competition Law ของแคลิฟอร์เนีย ซึ่งห้ามธุรกิจในรัฐใช้แนวปฏิบัติที่ผิดกฎหมายหรือหลอกลวง
ในแถลงการณ์ Bonta ระบุว่าเหตุโจมตี Hugging Face คือผลลัพธ์ที่คาดหมายได้จาก “วัฒนธรรมภายในของ OpenAI” ที่ให้ความสำคัญกับการเติบโตและการพัฒนาโมเดลอย่างรวดเร็วเหนือความปลอดภัยและความรับผิดชอบ เขายังเรียกค่าเสียหายทางแพ่ง 2,500 ดอลลาร์ต่อหนึ่งความผิดที่เกิดขึ้นตามที่ศาลเห็นสมควร ขณะที่ OpenAI ยังไม่ได้ออกมาแสดงความเห็นต่อคดีนี้ และก่อนหน้านี้บริษัทเคยเขียนบล็อกในเดือนสิงหาคมว่า หากไม่มีการป้องกันที่เหมาะสม AI agent ที่มีความสามารถสูงอาจหลบเลี่ยงการควบคุมทางเทคนิคและลงมือทำสิ่งอันตรายได้โดยไม่มีมนุษย์สั่งการ


