OpenAI สร้าง GPT-Red เอไอแฮ็กเกอร์จำลองไว้ทดสอบความปลอดภัยของโมเดล

OpenAI เปิดเผยการพัฒนา GPT-Red โมเดลภาษาขนาดใหญ่ที่ถูกออกแบบให้ทำหน้าที่เหมือน “ซูเปอร์แฮ็กเกอร์” เพื่อใช้เป็นคู่ซ้อมในการทดสอบและเพิ่มความแข็งแกร่งด้านความปลอดภัยของโมเดลรุ่นใหม่ของบริษัท โดยเฉพาะ GPT-5.6 ที่ OpenAI ระบุว่าได้ประโยชน์จากการฝึกปะทะกับ GPT-Red จนกลายเป็นรุ่นที่ทนทานต่อการโจมตีมากที่สุดเท่าที่เคยปล่อยออกมา

หัวใจของ GPT-Red คือการทำ red-teaming แบบอัตโนมัติ ซึ่งเดิมเป็นงานของทีมมนุษย์ที่ต้องพยายามหาจุดอ่อนของระบบให้มากที่สุดก่อนซอฟต์แวร์จะเปิดใช้งานจริง เมื่อโมเดลเริ่มมีความซับซ้อนมากขึ้นและถูกนำไปใช้ในรูปแบบเอเจนต์ที่เชื่อมต่อกับไฟล์ เว็บไซต์ อีเมล ปฏิทิน และโค้ดจากภายนอก ความเสี่ยงด้านความปลอดภัยก็ขยายวงกว้างขึ้นตามไปด้วย ทำให้ OpenAI มองว่าจำเป็นต้องมีเครื่องมือที่ค้นหาวิธีโจมตีใหม่ๆ ได้ต่อเนื่องและทันกับพัฒนาการของโมเดล

OpenAI อธิบายว่าการสร้าง GPT-Red ใช้วิธี self-play โดยให้โมเดลหนึ่งทำหน้าที่เป็นผู้โจมตี และให้โมเดลอื่นพยายามป้องกันตัวเอง กระบวนการนี้เกิดขึ้นในสภาพแวดล้อมจำลองที่เลียนแบบการใช้งานจริง เช่น การท่องเว็บ การอ่านอีเมล การจัดการปฏิทิน และการแก้ไขโค้ด จากการฝึกซ้ำหลายรอบ GPT-Red ค่อยๆ เก่งขึ้นในการหาแนวทางโจมตีที่เฉียบคมและเจาะจงกับสถานการณ์ต่างๆ ขณะที่โมเดลฝ่ายป้องกันก็พัฒนาวิธีรับมือไปพร้อมกัน

บริษัทให้ความสำคัญเป็นพิเศษกับการโจมตีแบบ prompt injection ซึ่งเป็นเทคนิคสอดคำสั่งแฝงเข้าไปในข้อความหรือข้อมูลที่โมเดลต้องอ่าน เช่น ในหน้าเว็บหรือโค้ด เพื่อหลอกให้โมเดลทำสิ่งที่ไม่พึงประสงค์ เช่น เปิดเผยข้อมูลลับ ทำลายโค้ด หรือสร้างผลลัพธ์ที่เป็นอันตราย OpenAI ระบุว่า GPT-Red ค้นพบรูปแบบโจมตีใหม่ที่ยังไม่เคยพบมาก่อน โดยเฉพาะสิ่งที่บริษัทเรียกว่า fake chain of thought ซึ่งเป็นการใส่ข้อความปลอมลงไปในกระบวนการคิดภายในของโมเดลเพื่อหลอกให้เชื่อข้อมูลเท็จ

ในการประเมินผล OpenAI เปรียบเทียบ GPT-Red กับทีม red-team มนุษย์จากการทดลองก่อนหน้า พบว่า GPT-Red สามารถค้นหาโจมตีที่ได้ผลมากกว่าในงานทดสอบเดียวกัน และยังใช้โจมตีระบบภายนอกอย่าง Vendy เอเจนต์ตู้ขายของจาก Andon Labs จนสามารถเปลี่ยนราคาและยกเลิกคำสั่งซื้อได้ สะท้อนว่าเครื่องมือนี้ไม่เพียงจำลองการโจมตีเชิงทฤษฎี แต่ยังแสดงศักยภาพในการเจาะระบบที่ทำงานกับโลกจริง

อย่างไรก็ตาม GPT-Red ยังมีข้อจำกัด เช่น ยังไม่เก่งพอในสถานการณ์ที่ต้องโต้ตอบหลายรอบระหว่างผู้โจมตีและเป้าหมาย รวมถึงยังจัดการกับภาพได้ไม่ดีนัก ทั้งที่ภาพสามารถใช้แฝงข้อความสำหรับ prompt injection ได้เช่นกัน OpenAI จึงมองว่า GPT-Red ไม่ได้มาแทนที่มนุษย์ แต่เป็นเครื่องมือเสริมที่ช่วยขยายขอบเขตการทดสอบ ขณะที่ผู้เชี่ยวชาญภายนอกก็เห็นด้วยว่าคนยังจำเป็นต่อการจับช่องโหว่บางประเภท และการแบ่งงานระหว่างมนุษย์กับเอไออาจเป็นแนวทางที่มีประสิทธิภาพที่สุดในอนาคต

OpenAI ระบุว่าจะไม่เปิดให้ใช้งาน GPT-Red สู่สาธารณะ โดยชี้ว่าการสร้างโมเดลโจมตีระดับนี้ต้องใช้เวลาพัฒนามากกว่าหนึ่งปีและต้องใช้ทรัพยากรคอมพิวต์สูงมาก จึงไม่ใช่สิ่งที่คู่แข่งจะทำซ้ำได้ง่าย บทสรุปของเรื่องนี้คือการป้องกันโมเดลเอไอรุ่นใหม่อาจต้องอาศัย “เอไอที่โจมตีเก่งกว่าเดิม” มาช่วยหาช่องโหว่ก่อนที่ผู้ไม่หวังดีจะเป็นคนพบมันเสียเอง