OpenAI จับมือ Cathedral ทดสอบความปลอดภัย เพิ่มรางวัลบักบาวน์ตีสูงสุด 172,000 ดอลลาร์

OpenAI ประกาศความร่วมมือกับ Cathedral เพื่อยกระดับการทดสอบความปลอดภัยของระบบ โดยนักวิจัยจาก Cathedral จะเข้ามาทำงานเคียงข้างทีมของบริษัทและใช้โมเดลของ OpenAI ในการพยายามเจาะหรือหาช่องโหว่ของมาตรการป้องกันต่าง ๆ แนวทางนี้สะท้อนว่าบริษัทต้องการทดสอบระบบในสภาพแวดล้อมที่ใกล้เคียงการโจมตีจริงมากขึ้น ไม่ใช่เพียงตรวจสอบภายในแบบทั่วไป

บริษัทระบุว่าการทดสอบดังกล่าวเป็นส่วนหนึ่งของการเตรียม “security sprint” เพื่อทำให้ระบบแข็งแรงขึ้นทั้งในเชิงโครงสร้างและการรับมือภัยคุกคาม โดยการนำผู้เชี่ยวชาญภายนอกเข้ามาช่วยจะเพิ่มมุมมองใหม่ ๆ และช่วยค้นหาปัญหาที่ทีมภายในอาจมองข้ามไปได้ โดยเฉพาะช่องโหว่ที่เกี่ยวข้องกับการใช้งานโมเดลและพฤติกรรมของระบบในสถานการณ์จริง

นอกจากความร่วมมือด้านการทดสอบ OpenAI ยังปรับเพิ่มรางวัลในโครงการ Security Bug Bounty เพื่อจูงใจให้นักวิจัยด้านความปลอดภัยช่วยรายงานจุดอ่อนของแพลตฟอร์ม บริษัทเผยว่าผู้ที่พบประเด็นร้ายแรงหรือมีความสำคัญเป็นพิเศษอาจได้รับรางวัลรวมสูงสุดถึง 172,000 ดอลลาร์เมื่อรวมโบนัสต่าง ๆ แล้ว ซึ่งถือเป็นระดับตอบแทนที่สูงมากเมื่อเทียบกับโปรแกรมบักบาวน์ตีทั่วไป

การเพิ่มเงินรางวัลและเปิดรับการทดสอบจากนักวิจัยภายนอกมีนัยสำคัญต่ออุตสาหกรรม AI โดยเฉพาะในช่วงที่โมเดลมีความสามารถสูงขึ้นและถูกนำไปใช้งานกว้างขวาง ความเสี่ยงด้านความปลอดภัยจึงไม่ได้จำกัดอยู่แค่ปัญหาทางเทคนิค แต่ยังรวมถึงการใช้งานในทางที่ผิด การรั่วไหลของข้อมูล และการหลีกเลี่ยงกลไกป้องกันต่าง ๆ ด้วย

โดยรวม ความเคลื่อนไหวครั้งนี้ชี้ว่า OpenAI ต้องการยกระดับความมั่นใจในความปลอดภัยของระบบก่อนการขยายการใช้งานในวงกว้างมากขึ้น ผ่านการผสมผสานระหว่างการทดสอบเชิงรุกจากผู้เชี่ยวชาญภายนอกและแรงจูงใจทางการเงินสำหรับผู้ค้นพบช่องโหว่ เพื่อให้การพัฒนา AI เดินควบคู่ไปกับการป้องกันความเสี่ยงอย่างจริงจัง