Moonshot ลดความสามารถโจมตีไซเบอร์ของ Kimi K3.1 Pro หลังความกังวล AI ถูกใช้แฮ็กพุ่ง

Moonshot AI เปิดเผยว่าได้ปรับลดความสามารถด้านการโจมตีทางไซเบอร์ของโมเดล Kimi K3.1 Pro ลง โดยระบุว่าบริษัทตัดข้อมูลและสภาพแวดล้อมที่เกี่ยวข้องกับงานไซเบอร์ออกจากกระบวนการฝึกและการเรียนรู้แบบเสริมกำลัง เพื่อจำกัดไม่ให้โมเดลนำไปใช้ในทางที่เป็นอันตรายได้ง่ายขึ้น

บริษัทระบุว่าหลังการปรับแต่ง โมเดลเวอร์ชันใหม่นี้ทำคะแนนได้ต่ำลงบนมาตรวัดด้านไซเบอร์ภายในของบริษัทเอง สะท้อนว่าความสามารถในการช่วยโจมตีหรือสนับสนุนงานแฮ็กถูกลดทอนลง อย่างไรก็ตาม ผลดังกล่าวยังไม่ได้รับการตรวจสอบยืนยันจากหน่วยงานอิสระ จึงยังไม่สามารถสรุปได้อย่างเต็มที่ว่าการลดความสามารถนี้มีประสิทธิภาพในระดับใดเมื่อเทียบกับการใช้งานจริง

ความเคลื่อนไหวของ Moonshot สะท้อนแรงกดดันที่เพิ่มขึ้นต่อผู้พัฒนาโมเดล AI ให้คำนึงถึงความเสี่ยงด้านความปลอดภัยมากขึ้น โดยเฉพาะเมื่อเครื่องมือสร้างข้อความและโค้ดสามารถถูกนำไปใช้ช่วยโจมตีระบบคอมพิวเตอร์ได้ บริษัทจึงพยายามแสดงให้เห็นว่าแนวทางการคัดกรองข้อมูลฝึกและการควบคุมสภาพแวดล้อมการเรียนรู้สามารถลดพฤติกรรมที่ไม่พึงประสงค์ของโมเดลได้

กรณีนี้ยังตอกย้ำประเด็นสำคัญในอุตสาหกรรม AI ว่าการเพิ่มความสามารถของโมเดลต้องเดินคู่กับมาตรการป้องกันการใช้งานผิดวัตถุประสงค์ โดยเฉพาะในด้านไซเบอร์ที่ความเสียหายอาจเกิดขึ้นได้รวดเร็วและวงกว้าง ข่าวดังกล่าวจึงเป็นสัญญาณว่าผู้ผลิตโมเดลเริ่มให้ความสำคัญกับการ “ทำให้ปลอดภัยขึ้น” ไม่ใช่เพียง “ทำให้ฉลาดขึ้น” เท่านั้น