นักวิจัยใช้ Claude ของ Anthropic เจาะระบบ OpenAI ได้ก่อนแจ้งช่องโหว่

รายงานจาก TechCrunch ระบุว่า กลุ่มนักวิจัยด้านความปลอดภัยได้ใช้ Claude ของ Anthropic เป็นเครื่องมือช่วยค้นหาและเจาะช่องโหว่ในระบบของ OpenAI จนสามารถยึดบัญชีพนักงานบางส่วนและเข้าถึงคลังโค้ดภายในของบริษัทได้สำเร็จ ก่อนจะเปิดเผยปัญหาดังกล่าวให้ OpenAI ทราบเพื่อแก้ไข

เหตุการณ์นี้สะท้อนว่าโมเดลภาษาขนาดใหญ่ไม่ได้ถูกใช้เพียงเพื่อสร้างข้อความหรือโค้ดเท่านั้น แต่ยังสามารถถูกนำไปเป็นตัวช่วยในงานทดสอบเจาะระบบและหาช่องโหว่ด้านความปลอดภัยได้เช่นกัน อย่างไรก็ดี กรณีนี้ก็ชี้ให้เห็นความเสี่ยงใหม่ เมื่อเครื่องมือ AI ที่ออกแบบมาเพื่อเพิ่มประสิทธิภาพการทำงานกลับถูกใช้เร่งกระบวนการโจมตีหรือยกระดับการเข้าถึงระบบที่อ่อนไหว

ประเด็นสำคัญของเรื่องอยู่ที่การที่ผู้ทดสอบสามารถเข้าถึงบัญชีภายในและทรัพยากรสำคัญของ OpenAI ได้ แสดงให้เห็นว่าช่องโหว่ในกระบวนการยืนยันตัวตนหรือการป้องกันภายในยังอาจถูกโจมตีได้ หากมีการผสานเครื่องมืออัตโนมัติและ AI เข้ามาช่วยวิเคราะห์สภาพแวดล้อมเป้าหมาย

ในมุมของอุตสาหกรรม เหตุการณ์นี้เพิ่มแรงกดดันให้บริษัท AI รายใหญ่ต้องทบทวนมาตรการด้านความปลอดภัยของตนเอง ทั้งในระดับบัญชีผู้ใช้ การควบคุมการเข้าถึงโค้ด และการเฝ้าระวังการใช้ AI ในทางที่อาจก่อให้เกิดการโจมตีไซเบอร์ได้รวดเร็วและซับซ้อนขึ้น

แม้ผู้ค้นพบจะอ้างว่าได้รายงานช่องโหว่ตามแนวทางรับผิดชอบ แต่กรณีดังกล่าวก็เป็นตัวอย่างชัดเจนว่า “AI เพื่อความปลอดภัย” และ “AI เพื่อการโจมตี” อาจอยู่ห่างกันเพียงขั้นตอนการใช้งานเท่านั้น และจะเป็นโจทย์ใหญ่ของทั้งผู้พัฒนาโมเดลและผู้ดูแลระบบในอนาคต