กูเกิลชะลอโปรแกรมล่าบั๊กโอเพนซอร์ซ เหตุรายงานที่สร้างด้วย AI พุ่งสูง

กูเกิลประกาศระงับการรับรายงานใหม่ในโครงการ bug bounty สำหรับซอฟต์แวร์โอเพนซอร์ซเป็นการชั่วคราว หลังพบว่าจำนวนคำแจ้งช่องโหว่ที่ส่งเข้ามามีสัดส่วนของเนื้อหาที่สร้างหรือช่วยเขียนโดย AI เพิ่มขึ้นอย่างมาก จนเริ่มกระทบต่อความสามารถของทีมในการคัดกรองและตรวจสอบรายงานที่มีคุณภาพจริง

ประเด็นสำคัญคือ ปริมาณรายงานไม่ได้สะท้อนคุณภาพของข้อมูลเสมอไป เมื่อเครื่องมือ generative AI ช่วยให้ผู้ใช้สร้างข้อเสนอการค้นหาบั๊ก รายละเอียดทางเทคนิค หรือคำอธิบายช่องโหว่ได้รวดเร็ว ทำให้เกิดการส่งรายงานจำนวนมากแบบกว้าง ๆ แต่หลายฉบับขาดความแม่นยำ ซ้ำซ้อน หรือไม่มีหลักฐานเพียงพอสำหรับนำไปสู่การแก้ไขจริง

กูเกิลไม่ได้ระบุว่าเป็นการปิดโปรแกรมถาวร แต่เป็นการหยุดรับข้อเสนอเพิ่มเพื่อจัดการภาระงานภายใน และทบทวนกระบวนการคัดกรองรายงานให้สอดรับกับสภาพแวดล้อมใหม่ที่ AI เข้ามามีบทบาทมากขึ้น สะท้อนว่าการใช้ AI ในงานด้านความปลอดภัยไม่ได้มีแต่ข้อดี เพราะอาจทำให้เกิด ‘noise’ จนกลบสัญญาณที่เป็นประโยชน์

กรณีนี้ชี้ให้เห็นความท้าทายที่หลายองค์กรด้านซอฟต์แวร์และความปลอดภัยกำลังเผชิญ เมื่อระบบรางวัลล่าบั๊กที่ออกแบบมาเพื่อดึงดูดนักวิจัยจริง ต้องรับมือกับรายงานที่ผลิตได้ง่ายขึ้นจากเครื่องมืออัตโนมัติ ผู้ดูแลโครงการจึงอาจต้องปรับเกณฑ์ หลักฐานที่รับได้ หรือวิธีตรวจสอบ เพื่อให้สามารถแยกแยะรายงานที่มีคุณค่ากับข้อความที่สร้างมาเพื่อปริมาณได้ดีขึ้น