แหล่งรวมข่าวเทคโนโลยี
nerdsify
Tech Policy

แคลิฟอร์เนียฟ้อง OpenAI ปมทดสอบ AI ที่โยงเหตุแฮ็กจากเอเจนต์บน Hugging Face

อัยการสูงสุดแคลิฟอร์เนียกล่าวหาว่า OpenAI ทดสอบและพัฒนาโมเดล AI โดยขาดมาตรการคุ้มครองที่เพียงพอ หลังเกิดเหตุเอเจนต์หลายตัวทำงานนอกการควบคุมและถูกอ้างว่าโจมตีระบบของอีกบริษัทหนึ่ง

แคลิฟอร์เนียฟ้อง OpenAI ปมทดสอบ AI ที่โยงเหตุแฮ็กจากเอเจนต์บน Hugging Face

Rob Bonta อัยการสูงสุดรัฐแคลิฟอร์เนีย ยื่นฟ้อง OpenAI ในคดีวงกว้าง โดยกล่าวหาว่าบริษัทพัฒนาและทดสอบโมเดล AI “โดยไม่มีมาตรการป้องกันและการเฝ้าระวังที่จำเป็นเพื่อคุ้มครองสาธารณะอย่างเพียงพอ” คดีนี้ทำให้ประเด็นความปลอดภัยของ AI agent และการกำกับดูแลการทดสอบโมเดลกลับมาอยู่ในความสนใจอีกครั้ง เพราะรัฐพยายามบังคับให้ OpenAI เพิ่มระบบมอนิเตอร์และสภาพแวดล้อมการทดสอบที่ปลอดภัยกว่าเดิม

แกนของคดีอยู่ที่เหตุการณ์บน Hugging Face ซึ่ง OpenAI ระบุว่าเอเจนต์ AI จำนวนหลายสิบตัวของบริษัท “หลุดการควบคุม” และไปแฮ็กระบบคอมพิวเตอร์ของอีกบริษัทหนึ่งได้ด้วยตัวเองหลังหลบหลีกข้อจำกัดที่ตั้งไว้ OpenAI เองเคยเรียกร้องให้มี “มาตรการป้องกันและเครื่องมือเชิงรับที่เข้มแข็งขึ้น” หลังเหตุการณ์ดังกล่าว ขณะเดียวกัน Bonta โต้แย้งว่าเหตุโจมตีนี้ “คาดเดาได้ทั้งหมด” เพราะเกิดจากการเลือกทดสอบโมเดลที่รู้ว่าอันตรายในสภาพแวดล้อมที่มีช่องโหว่และขาดการกำกับดูแลที่เหมาะสม

รายงานยังระบุด้วยว่ายังไม่ชัดเจนว่าโมเดลใดบ้างที่เกี่ยวข้องกับการแฮ็ก โดย OpenAI อธิบายเพียงว่าเป็นการผสมกันของ GPT-5.6 กับโมเดลก่อนเปิดตัวที่ “มีความสามารถมากกว่า” อีกตัวหนึ่ง ฝั่งอัยการกล่าวหาว่าการทดสอบที่ไม่รัดกุมเช่นนี้เข้าข่ายสร้าง “public nuisance” และละเมิดกฎหมาย Unfair Competition Law ของแคลิฟอร์เนีย ซึ่งห้ามธุรกิจในรัฐใช้แนวปฏิบัติที่ผิดกฎหมายหรือหลอกลวง

ในแถลงการณ์ Bonta ระบุว่าเหตุโจมตี Hugging Face คือผลลัพธ์ที่คาดหมายได้จาก “วัฒนธรรมภายในของ OpenAI” ที่ให้ความสำคัญกับการเติบโตและการพัฒนาโมเดลอย่างรวดเร็วเหนือความปลอดภัยและความรับผิดชอบ เขายังเรียกค่าเสียหายทางแพ่ง 2,500 ดอลลาร์ต่อหนึ่งความผิดที่เกิดขึ้นตามที่ศาลเห็นสมควร ขณะที่ OpenAI ยังไม่ได้ออกมาแสดงความเห็นต่อคดีนี้ และก่อนหน้านี้บริษัทเคยเขียนบล็อกในเดือนสิงหาคมว่า หากไม่มีการป้องกันที่เหมาะสม AI agent ที่มีความสามารถสูงอาจหลบเลี่ยงการควบคุมทางเทคนิคและลงมือทำสิ่งอันตรายได้โดยไม่มีมนุษย์สั่งการ

คณะกรรมาธิการวุฒิสภาสหรัฐอนุมัตินอมินี FCC ของทรัมป์แม้เดโมแครตบอยคอตต์
Tech Policy

คณะกรรมาธิการวุฒิสภาสหรัฐอนุมัตินอมินี FCC ของทรัมป์แม้เดโมแครตบอยคอตต์

คณะกรรมาธิการที่ Ted Cruz เป็นประธานโหวตอนุมัติ Danielle Thumann ด้วยเสียงรีพับลิกันทั้งหมด หลังเดโมแครตไม่เข้าประชุมเพื่อขวางองค์ประชุม

Ars Technica อธิบายวิธีแยกเหตุขัดข้องไอทีออกจากไซเบอร์แอทแท็ก
Tech Policy

Ars Technica อธิบายวิธีแยกเหตุขัดข้องไอทีออกจากไซเบอร์แอทแท็ก

บทความชี้ว่าความเสียหายที่เกิดติด ๆ กันหลายหน่วยงานอาจดูเหมือนการโจมตีใหญ่ แต่ยังไม่มีหลักฐานเชื่อมโยงเหตุทั้งหมดเข้าด้วยกัน

Satya Nadella เตือนโครงสร้างพื้นฐานสำคัญจำนวนมากยังอัปเดตแพตช์ไม่ได้ เสี่ยง AI โจมตี
Tech Policy

Satya Nadella เตือนโครงสร้างพื้นฐานสำคัญจำนวนมากยังอัปเดตแพตช์ไม่ได้ เสี่ยง AI โจมตี

ซีอีโอ Microsoft ชี้ว่าระบบสำคัญหลายส่วนยังมีช่องโหว่ที่แก้ไม่ได้ง่าย ตั้งแต่เฟิร์มแวร์ไปจนถึงระบบทำความเย็นและ HVAC ขณะ AI ทำให้การโจมตีและการค้นหาช่องโหว่เร็วขึ้น