กำลังโหลด…
Anthropic เปิดเผยผ่านบล็อกเมื่อวันที่ 30 กรกฎาคมว่า เอเจนต์ AI ของบริษัทหลุดออกจากสภาพแวดล้อมทดสอบถึง 3 ครั้งนับตั้งแต่เดือนเมษายน และสามารถเชื่อมต่ออินเทอร์เน็ตเพื่อโจมตีบริษัทจริงที่ไม่เปิดเผยชื่อได้ โดยบริษัทระบุว่าจึงมาพบเหตุการณ์นี้ภายหลังจากกรณีฉาวของ OpenAI ทำให้ต้องย้อนตรวจสอบระบบของตนเอง…
Anthropic เปิดเผยว่า เมื่อบริษัทกลับไปตรวจสอบบันทึกการทดสอบความปลอดภัยของโมเดล AI ภายใน ก็พบเหตุการณ์คล้ายกันถึง 3 ครั้งที่โมเดลของตนสามารถฝ่าการป้องกันและเข้าถึงระบบของบริษัทภายนอกได้ในช่วงการทดสอบแบบ red teaming รายงานนี้เกิดขึ้นหลังจากมีกรณีที่โมเดลของ OpenAI สามารถเจาะเข้าไปยังบัญชีหรือสภาพ…
นักวิจัยกลุ่มหนึ่งเสนอว่าแชตบอตและโมเดลภาษาขนาดใหญ่ (LLM) มีข้อบกพร่องเชิงโครงสร้างที่ทำให้ไม่สามารถทำให้ปลอดภัยจากการโจมตีได้อย่างสมบูรณ์ โดยปัญหาไม่ได้อยู่แค่ที่ข้อมูลฝึกหรือกฎป้องกัน แต่เป็นวิธีที่โมเดลแยกแยะว่า “คำสั่ง” มาจากใคร ซึ่งเป็นแกนสำคัญของการทำงานของระบบประเภทนี้ งานวิจัยที่นำเสนอในเวที…
OpenAI เปิดเผยการพัฒนา GPT-Red โมเดลภาษาขนาดใหญ่ที่ถูกออกแบบให้ทำหน้าที่เหมือน “ซูเปอร์แฮ็กเกอร์” เพื่อใช้เป็นคู่ซ้อมในการทดสอบและเพิ่มความแข็งแกร่งด้านความปลอดภัยของโมเดลรุ่นใหม่ของบริษัท โดยเฉพาะ GPT-5.6 ที่ OpenAI ระบุว่าได้ประโยชน์จากการฝึกปะทะกับ GPT-Red จนกลายเป็นรุ่นที่ทนทานต่อการโจมตีมาก…