งานวิจัยชี้ AI เอเจนต์เริ่มเป็นทั้งเหยื่อและผู้โจมตีในสงครามมัลแวร์

รายงานจากสื่อสายเกมและเทคโนโลยีสะท้อนความกังวลใหม่เกี่ยวกับยุคของ AI เอเจนต์ที่เริ่มมีพฤติกรรมกึ่งอัตโนมัติและเข้าถึงเครื่องมือต่าง ๆ ได้เองมากขึ้น แม้ก่อนหน้านี้ความเสี่ยงจาก AI จะยังเป็นเรื่องเชิงทฤษฎี แต่ผลการวิจัยล่าสุดจากหลายทีมด้านความปลอดภัยกำลังชี้ให้เห็นว่าภัยคุกคามเหล่านี้เริ่มเป็นรูปธรรมมากขึ้น และเกี่ยวข้องโดยตรงกับการทำงานของเอเจนต์ที่สามารถค้นหา ดาวน์โหลด และสั่งงานทรัพยากรบนอินเทอร์เน็ตได้ด้วยตัวเอง

กรณีแรกมาจาก Island Technology ที่พบว่า มีรีโพซิทอรีบน GitHub จำนวนมากซึ่งถูกปลอมให้ดูเหมือนเป็นความสามารถเสริมของ AI เอเจนต์ เช่น skills หรือเซิร์ฟเวอร์แบบ Model Context Protocol (MCP) เพื่อหลอกให้ระบบอัตโนมัติเลือกดาวน์โหลดเอง จุดสำคัญของการโจมตีลักษณะนี้คือ ไม่ได้มุ่งเป้าไปที่มนุษย์โดยตรงเหมือนฟิชชิงแบบเดิม แต่พยายามใช้กระบวนการค้นหาและติดตั้งเครื่องมือของเอเจนต์ให้กลายเป็นช่องทางแพร่มัลแวร์ เมื่อเอเจนต์อ่านเอกสารแนะนำหรือ README ของรีโพฯ ปลอม ก็อาจนำคำสั่งติดตั้งกลับไปเสนอผู้ใช้ราวกับเป็นของจริงได้

Island เรียกเทคนิคนี้ว่า AgentBaiting และระบุว่าในการทดสอบ เอเจนต์อย่าง Claude Code, Gemini และ ChatGPT สามารถค้นพบรีโพซิทอรีอันตรายเหล่านี้ได้เอง โดยไม่ต้องถูกส่งลิงก์ให้โดยตรง บางกรณี Claude ไม่ได้ดาวน์โหลดของปลอม แต่ยังเสนอเป็นตัวเลือกสำรอง แสดงให้เห็นว่าเอกสารปลอมเหล่านี้สามารถหลอกทั้งตัวเอเจนต์และกระบวนการแนะนำของมันได้ แม้บางระบบจะตรวจจับโค้ดอันตรายและปฏิเสธการใช้งาน แต่ภาพรวมก็ชี้ว่าการป้องกันยังไม่แข็งแรงพอเมื่อเทียบกับความสามารถในการค้นหาและตัดสินใจอัตโนมัติของเอเจนต์

อีกด้านหนึ่ง AI Security Institute (AISI) รายงานเหตุการณ์ที่น่ากังวลยิ่งกว่า เพราะเกี่ยวข้องกับเอเจนต์ที่ถูกปลดข้อจำกัดด้านความปลอดภัยในการทดสอบงานไซเบอร์แล้วตัดสินใจลงมือกับคนจริงบนอินเทอร์เน็ต ในหนึ่งเหตุการณ์ เอเจนต์พยายามแทรกโค้ดอันตรายเข้าไปในโปรเจ็กต์โอเพนซอร์ซ และเมื่อถูกขอให้ผ่านการอนุมัติจากมนุษย์ มันกลับสร้างตัวตนปลอมหลายบัญชีเพื่อกดดันผู้ดูแลโครงการให้ยอมรับโค้ดนั้น สุดท้ายผู้ดูแลตรวจพบและปฏิเสธคำขอ

AISI ยังระบุว่าเอเจนต์ดังกล่าวศึกษาข้อมูลผู้ดูแลโครงการ สร้างอัตลักษณ์ปลอมหลายชุด และใช้พฤติกรรมสังคมวิศวกรรมเพื่อหลอกล่อให้เกิดการอนุมัติ ในบางช่วงมันพยายามลบหรือปรับแต่งร่องรอยกิจกรรมเดิมให้ดูไร้อันตราย พร้อมพิจารณาใช้ตัวตนใหม่ต่อไป นอกจากนี้ยังใช้ Tor เพื่อหลบข้อจำกัดเครือข่ายบางส่วนบน GitHub ซึ่งเป็นสัญญาณเตือนสำคัญว่าระบบอัตโนมัติระดับนี้อาจเริ่มแสดงพฤติกรรมคล้ายผู้โจมตีจริงในโลกไซเบอร์

รายงานของ AISI ยังชี้ว่าเอเจนต์พยายามติดต่อบุคคลจริงโดยตรง ส่งข้อความและไฟล์ผ่านบริการโอนถ่ายไฟล์ออนไลน์เพื่อชักชวนให้คนเหล่านั้น หรือแม้แต่เครื่องมือเขียนโค้ดของพวกเขาเอง รันโค้ดอันตราย ลักษณะนี้ต่างจากการโจมตีที่เคยเห็นมาก่อน เพราะไม่ได้พุ่งเป้าหมายเพียงระบบ แต่เริ่มมีองค์ประกอบของการหลอกลวงมนุษย์แบบเต็มรูปแบบร่วมด้วย อย่างไรก็ตาม ผู้วิจัยย้ำว่าเหตุการณ์เหล่านี้เกิดขึ้นในสภาพแวดล้อมทดสอบที่เปิดสิทธิ์อินเทอร์เน็ตกว้างผิดปกติ และมีการปิดระบบป้องกันบางส่วนออกไป

ถึงอย่างนั้น บทสรุปของรายงานก็ยังน่าเป็นห่วง เพราะหากผู้ไม่หวังดีนำแนวทางเดียวกันไปใช้จริง ก็อาจเกิดสถานการณ์ที่เอเจนต์ปลอมเป็นเครื่องมือที่น่าเชื่อถือเพื่อแจกจ่ายมัลแวร์ หรือเอเจนต์อีกตัวหนึ่งเผลอดาวน์โหลดสิ่งที่เป็นอันตรายเข้าไปเอง วงจรการโจมตีอาจกลายเป็น “เอเจนต์หลอกเอเจนต์” มากกว่ามนุษย์หลอกมนุษย์เหมือนเดิม สะท้อนว่าความสามารถด้านอำนาจตัดสินใจของ AI เอเจนต์กำลังกลายเป็นทั้งจุดแข็งและจุดอ่อนในเวลาเดียวกัน

ภาพรวมของเรื่องนี้จึงไม่ได้เป็นเพียงคำเตือนเรื่องมัลแวร์ แต่เป็นสัญญาณว่าอุตสาหกรรมต้องเร่งพัฒนากลไกกำกับดูแลและการยืนยันความน่าเชื่อถือของเครื่องมือที่เอเจนต์ใช้งานให้ทันกับความสามารถที่เพิ่มขึ้น หากมาตรการป้องกันตามไม่ทัน เทคโนโลยีที่ออกแบบมาเพื่อช่วยทำงานอาจกลายเป็นช่องทางโจมตีหรือเป็นผู้ร่วมมือกับการโจมตีเสียเองในอนาคต