พบไฟล์ llms.txt หลายเว็บไซต์ชี้โค้ดอันตรายให้เอเจนต์ AI ติดตั้งอัตโนมัติในเครือข่ายองค์กร

รายงานจาก Ars Technica เปิดเผยช่องโหว่ด้านความปลอดภัยรูปแบบใหม่ที่เกี่ยวข้องกับไฟล์คำอธิบายเว็บไซต์สำหรับเอเจนต์ AI อย่าง llms.txt และ llms-full.txt ซึ่งเริ่มถูกใช้เพื่อบอกโครงสร้างและสรุปเนื้อหาเว็บไซต์ในรูปแบบอ่านได้ด้วยเครื่อง คล้ายบทบาทของ robots.txt สำหรับเสิร์ชเอนจิน แต่ในกรณีนี้ไฟล์ดังกล่าวกลับถูกนำไปอ้างอิงถึงแพ็กเกจโค้ดหรือโดเมนที่เป็นอันตรายหรือไม่มีเจ้าของ ทำให้เอเจนต์ AI ที่เข้ามาอ่านสามารถติดตั้งสิ่งเหล่านั้นโดยอัตโนมัติได้

นักวิจัยจากสตาร์ตอัปในอิสราเอลได้สแกนโดเมนจริงกว่า 6,000 แห่งที่เกี่ยวข้องกับผู้รับเหมาด้านกลาโหม บริษัทใน Fortune 500 และบิ๊กเทค พบไฟล์ llms.txt และ llms-full.txt หลายพันรายการ และในจำนวนนั้นมีอย่างน้อย 120 ไซต์ที่ชี้ไปยังแพ็กเกจโค้ดหรือโดเมนที่ยังไม่ได้จดทะเบียน เมื่อพวกเขาทดลองจดชื่อโดเมนเหล่านั้นและวางเพย์โหลดสำหรับตรวจจับการเรียกกลับ เครื่องที่ประมวลผลไฟล์ก็เชื่อมต่อกลับมาเกือบจะทันที แสดงให้เห็นว่ามีระบบที่รันคำสั่งติดตั้งตามคำแนะนำในไฟล์เหล่านี้โดยไม่ตรวจสอบอย่างรอบคอบ

ผลการทดสอบยืนยันว่าการใช้งานเอเจนต์เขียนโค้ดในองค์กรอาจทำให้เกิดการติดตั้งซอฟต์แวร์จากแหล่งที่ไม่ได้รับการควบคุมภายในเครือข่ายได้ โดยผู้วิจัยพบสัญญาณการทำงานย้อนกลับมาจากบริษัทขนาดใหญ่หลายแห่ง รวมถึงบางรายที่อยู่ในกลุ่ม Fortune 500 และบริษัทสตาร์ตอัปด้วย เส้นทางโปรเซสที่ตามรอยได้ชี้ไปยังเอเจนต์อย่าง Claude, Codex ของ OpenAI และ Hermes ของ Nous Research ว่าเป็นตัวที่เกี่ยวข้องกับการรันคำสั่งดังกล่าว

ประเด็นสำคัญคือไฟล์ที่ตั้งใจจะช่วยให้เอเจนต์ AI เข้าใจเว็บไซต์ได้ดีขึ้น กลับกลายเป็นช่องทางให้เกิดปัญหา supply chain ภายในองค์กร โดยเฉพาะเมื่อระบบอัตโนมัติให้สิทธิ์ความเชื่อถือกับคำสั่งติดตั้งจากเอกสารที่มีโครงสร้างอย่างยิ่ง แม้ยังไม่ชัดว่าความเสียหายเกิดขึ้นในระดับใด แต่ข้อค้นพบนี้สะท้อนว่าการนำ AI agent ไปทำงานภายในเครือข่ายจริงจำเป็นต้องมีมาตรการตรวจสอบ แยกสภาพแวดล้อม และจำกัดสิทธิ์อย่างเข้มงวดมากขึ้น

รายงานยังระบุว่าอย่างน้อยหนึ่งเว็บไซต์ที่ตั้งค่าไม่ถูกต้องกำลังชี้ผู้เข้าชมทั้งมนุษย์และ AI ไปยังมัลแวร์จริง ทำให้สถานการณ์นี้ไม่ใช่แค่ความเสี่ยงเชิงทฤษฎี แต่เป็นปัญหาความปลอดภัยที่เกิดขึ้นแล้วในสภาพแวดล้อมเว็บไซต์จริง ขณะที่ Anthropic, OpenAI และ Nous Research ยังไม่ได้ให้ความเห็นต่อผลการค้นพบนี้ในช่วงเวลาที่รายงานเผยแพร่