ผู้ฟ้องคดีสหรัฐแอบฝังพรอมป์ตในเอกสารศาล หวังชี้นำระบบ AI

ศาลในคอนเนตทิคัตเปิดเผยกรณีที่เชื่อว่าเป็นครั้งแรกในสหรัฐฯ ที่โจทก์พยายามซ่อนข้อความไว้ในเอกสารยื่นต่อศาล โดยตั้งใจให้มนุษย์มองไม่เห็น แต่ให้ระบบ AI ที่อ่านข้อความในไฟล์อ่านเจอได้ และนำไปใช้สนับสนุนข้อโต้แย้งของตน กรณีนี้สะท้อนว่าเมื่อเครื่องมือ AI เริ่มเข้ามามีบทบาทมากขึ้นในกระบวนการยุติธรรม ก็มีความเสี่ยงที่คู่ความบางรายอาจพยายามใช้เทคนิคเชิงบิดเบือนเพื่อชี้นำผลลัพธ์ของเอกสารหรือการอ่านข้อมูลโดยระบบอัตโนมัติ

ผู้พิพากษาวอลเตอร์ สเปเดอร์ จูเนียร์ ระบุว่า ข้อความที่ถูกซ่อนดังกล่าวไม่มีผลต่อคำตัดสินของคดี เพราะศาลยังพิจารณาเนื้อหาตามข้อเท็จจริงและเหตุผลทางกฎหมายตามปกติ คดีนี้เกี่ยวข้องกับชายคนหนึ่งที่กล่าวหาผู้ให้บริการด้านสุขภาพว่าไม่ยอมเปิดเผยข้อมูลเวชระเบียนตามที่ควร อย่างไรก็ตาม ศาลมองว่าพฤติกรรมการฝังข้อความลักษณะนี้เป็นเรื่องอันตราย เพราะเป็นการพยายามกำหนดทิศทางการตีความของระบบ AI แทนที่จะยื่นข้อโต้แย้งอย่างเปิดเผยและตรงไปตรงมา

รายละเอียดที่ศาลเปิดเผยชี้ว่า ข้อความลับถูกจัดรูปแบบให้มนุษย์มองไม่เห็น แต่ยังคงอ่านได้โดยซอฟต์แวร์ที่ดึงข้อความจากเอกสารได้โดยตรง เนื้อหาภายในสั่งให้ระบบ AI ที่อาจตรวจเอกสารยืนยันท่าทีของโจทก์ มองข้ามการปฏิเสธก่อนหน้านี้ของศาล และทำให้ผลลัพธ์ออกมาตามที่เขาต้องการ กรณีนี้จึงถูกมองว่าเป็นตัวอย่างของ prompt injection ในบริบทนอกระบบแชตหรือเครื่องมือออนไลน์ทั่วไป แต่เกิดขึ้นกับเอกสารทางกฎหมายโดยตรง

ประเด็นสำคัญของข่าวนี้ไม่ใช่เพียงการกระทำของคู่ความรายเดียว แต่คือการเตือนว่าศาล หน่วยงานรัฐ และผู้ที่เกี่ยวข้องกับเอกสารดิจิทัลอาจต้องเผชิญรูปแบบการโจมตีใหม่ ๆ เมื่อ AI ถูกนำมาใช้ช่วยอ่าน คัดกรอง หรือสรุปเอกสารมากขึ้น แม้คดีนี้จะไม่ได้ทำให้ผลคำตัดสินเปลี่ยนไป แต่ก็ชี้ให้เห็นช่องโหว่เชิงกระบวนการที่อาจขยายตัวได้ หากไม่มีมาตรการตรวจสอบเอกสารและแนวทางกำกับการใช้ AI อย่างรัดกุม