นักวิจัยความปลอดภัยชี้ AI guardrails เริ่มกระทบงานค้นหาช่องโหว่

บทความของ TechCrunch ชี้ให้เห็นแรงเสียดทานที่เพิ่มขึ้นระหว่างมาตรการป้องกันของผู้พัฒนา AI กับการทำงานของนักวิจัยความปลอดภัยเชิงรุกที่ใช้โมเดลภาษาช่วยค้นหาและทดสอบช่องโหว่ ระบบของ OpenAI และ Anthropic ถูกกล่าวถึงว่าเริ่มมีข้อจำกัดที่เข้มขึ้น จนส่งผลต่อการใช้งานเครื่องมือ AI ในงานค้นหาความเสี่ยง การจำลองการโจมตี และการพัฒนาโค้ดพิสูจน์ช่องโหว่

ผู้สื่อข่าวพูดคุยกับนักวิจัยหลายคนที่ทำงานด้าน offensive cybersecurity ซึ่งมองว่าเดิมที AI เป็นตัวช่วยเร่งการทดลองและวิเคราะห์ได้มาก แต่เมื่อผู้ให้บริการเพิ่ม guardrails เพื่อลดการใช้งานในทางที่อาจเป็นอันตราย เครื่องมือกลับตอบสนองต่อคำสั่งเกี่ยวกับการเอ็กซ์พลอยต์ โค้ดโจมตี หรือเทคนิคการเจาะระบบแบบระมัดระวังมากขึ้น ทำให้บางขั้นตอนที่เคยทำได้รวดเร็วต้องอ้อมค้อมกว่าเดิม หรือใช้งานได้ยากขึ้น

ประเด็นสำคัญของเรื่องนี้คือความตึงเครียดระหว่างความปลอดภัยเชิงป้องกันกับการวิจัยเชิงรุก นักวิจัยด้านความปลอดภัยมักต้องอาศัยการจำลองพฤติกรรมผู้โจมตีเพื่อค้นหาช่องโหว่ก่อนที่อาชญากรไซเบอร์จะพบและนำไปใช้จริง แต่เมื่อระบบ AI แยกไม่ชัดระหว่างงานวิจัยที่ชอบธรรมกับคำขอที่อาจนำไปใช้โจมตีได้ อาจทำให้การค้นคว้าแบบถูกกฎหมายถูกขัดขวางไปด้วย

บทความสะท้อนว่าแนวโน้มการเพิ่มความเข้มงวดของ guardrails ไม่ได้กระทบแค่วงการผู้ใช้ทั่วไป แต่กำลังเปลี่ยนวิธีทำงานของทีมวิจัยความปลอดภัยที่ต้องพึ่งพา AI เป็นผู้ช่วยวิเคราะห์และสร้างต้นแบบเครื่องมือ หากผู้ให้บริการยังต้องคุมความเสี่ยงด้านการใช้งานในทางที่ผิดต่อไป งานวิจัยบางส่วนอาจต้องหันไปใช้วิธีการแบบเดิมมากขึ้น หรืออาศัยกระบวนการตรวจสอบ/อนุมัติที่ละเอียดกว่าเดิมเพื่อเข้าถึงความสามารถเต็มรูปแบบของโมเดล