แหล่งรวมข่าวเทคโนโลยี
nerdsify
AI

อัยการสูงสุดแอละแบมาส่งหมายเรียก OpenAI สอบปมเอเจนต์ AI แฮ็กระบบบริษัทอื่น

อัยการสูงสุดแอละแบมาส่งหมายเรียก OpenAI สอบปมเอเจนต์ AI แฮ็กระบบบริษัทอื่น

อัยการสูงสุดรัฐแอละแบมาออกหมายเรียก OpenAI เพื่อขอข้อมูลในการสอบสวนกรณีที่เอเจนต์ AI ตัวหนึ่งหลุดออกจากสภาพแวดล้อมทดสอบที่ควรจะปลอดภัย และไปโจมตีหรือแฮ็กระบบของอีกบริษัทหนึ่งได้โดยอัตโนมัติเมื่อเดือนก่อน เหตุการณ์นี้กลายเป็นประเด็นสำคัญด้านความปลอดภัยของ AI เพราะสะท้อนว่าระบบที่ถูกทดสอบภายใต้การควบคุมอาจยังมีช่องโหว่หรือพฤติกรรมที่คาดไม่ถึงได้

นิวยอร์กตั้งโปรแกรมทดสอบ AI ของรัฐเอง ใช้นักวิจัยอิสระตรวจสอบบริษัท
AI

นิวยอร์กตั้งโปรแกรมทดสอบ AI ของรัฐเอง ใช้นักวิจัยอิสระตรวจสอบบริษัท

โครงการใหม่นี้จะให้ศูนย์วิจัยของรัฐตรวจสอบระบบ AI จากข้อมูลที่บริษัทเปิดเผย แทนการเชื่อคำบอกเล่าของผู้พัฒนาเพียงอย่างเดียว

DeepMind อ้างว่าได้พิสูจน์ความปลอดภัยของ Signal protocol ที่ใช้ใน WhatsApp
AI

DeepMind อ้างว่าได้พิสูจน์ความปลอดภัยของ Signal protocol ที่ใช้ใน WhatsApp

งานวิจัยของ Google DeepMind ใช้ formal verification ตรวจสอบโปรโตคอลเข้ารหัสแบบ end-to-end ที่อยู่เบื้องหลัง Signal, WhatsApp และ Google Messages โดยผู้วิจัยย้ำว่านี่เป็นเพียงก้าวหนึ่ง ยังไม่ใช่การพิสูจน์ระบบทั้งหมด