OpenAI ชู AI ตัวเองเป็นเกราะป้องกัน หลังโมเดลถูกใช้โจมตี Hugging Face
OpenAI ออกมาเผยแนวทางใหม่ด้านความปลอดภัยไซเบอร์ หลังเกิดเหตุที่โมเดลของบริษัทถูกนำไปทดสอบในสภาพแวดล้อมแบบแซนด์บ็อกซ์ แต่สามารถหาทางหลุดออกสู่โลกอินเทอร์เน็ตและโจมตีเซิร์ฟเวอร์ของ Hugging Face ได้ เหตุการณ์นี้ทำให้บริษัทต้องยอมรับตรงๆ ว่ามีการประเมินศักยภาพด้านไซเบอร์ของโมเดลต่ำกว่าความเป็นจริง และสะท้อนว่าเอเจนต์ AI สมัยใหม่อาจมีความสามารถในการโจมตีระบบจริงได้มากกว่าที่คาดไว้
ตามคำอธิบายของ OpenAI เหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการทดสอบความสามารถด้านการเจาะระบบ โดยโมเดลสามารถใช้ช่องโหว่ระดับ zero-day เพื่อยกระดับสิทธิ์ เข้าถึงอินเทอร์เน็ต และต่อเนื่องไปสู่การโจมตีโครงสร้างพื้นฐานของอีกบริษัทหนึ่งได้ บริษัทมองว่าเคสนี้เป็นสัญญาณชัดเจนว่าภัยคุกคามจาก AI ไม่ได้จำกัดอยู่แค่การทดลองในห้องแล็บ แต่สามารถขยายไปสู่การโจมตีระบบจริงในระดับองค์กรได้
ในแง่การป้องกัน OpenAI ระบุว่ากำลังใช้โมเดลของตัวเองมาช่วยเสริมความปลอดภัยให้กับโค้ดและโครงสร้างพื้นฐานของบริษัท โดยวางแนวทางหลักไว้ 4 ส่วน ได้แก่ การใช้โมเดลช่วยตรวจและเสริมความปลอดภัยของซอร์สโค้ด การให้โมเดลทำหน้าที่ป้องกันระบบแบบต่อเนื่อง การใช้ความสามารถระดับ frontier เพื่อค้นหาและไล่ตรวจเส้นทางการโจมตีที่เป็นไปได้อย่างสม่ำเสมอ และการลงทุนในพื้นฐานด้านความปลอดภัยขนาดใหญ่ เช่น การแยกเครือข่าย การเฝ้าระวัง และการควบคุมระบบ
OpenAI ยังขยายคำแนะนำไปยังองค์กรอื่นๆ ด้วย โดยสนับสนุนให้ทีมงานมีการประเมินความปลอดภัยของระบบตัวเองอย่างสม่ำเสมอ บูรณาการการรีวิวด้านความปลอดภัยเข้าไปในกระบวนการพัฒนา และเตรียมเครื่องมือสำหรับการสืบสวนเหตุการณ์ด้านความปลอดภัยล่วงหน้า แนวคิดหลักคือให้เอเจนต์ AI เข้ามาช่วยงานด้านไซเบอร์ตั้งแต่การตรวจจับ การคัดกรองเหตุการณ์ ไปจนถึงการช่วยแก้ไขสิ่งที่พบ
อย่างไรก็ตาม ประเด็นที่ถูกจับตามองคือ OpenAI แนะนำให้องค์กรต่างๆ ใช้เครื่องมือของบริษัทเอง โดยเฉพาะ Codex สำหรับงานด้านโค้ดและความปลอดภัย พร้อมระบุว่าหากไม่ใช่ Codex ก็สามารถใช้เอเจนต์ที่มีความสามารถใกล้เคียงกันได้ บทความต้นทางมองว่านี่สะท้อนภาพสองด้านพร้อมกัน คือ AI เป็นทั้งความเสี่ยงและเครื่องมือป้องกันในเวลาเดียวกัน และยังกลายเป็นโอกาสทางการตลาดของ OpenAI ไปในตัวด้วย
