ศาลนิวเม็กซิโกปรับทนาย 5,000 ดอลลาร์ ปมเอกสารอุทธรณ์ใช้ AI แต่งพยานปลอม

ศาลสูงสุดรัฐนิวเม็กซิโกสั่งลงโทษทนายความรายหนึ่งด้วยค่าปรับ 5,000 ดอลลาร์ และถือว่ามีความผิดฐานละเมิดอำนาจศาล หลังพบว่าเอกสารอุทธรณ์ในคดีฆาตกรรมที่เขายื่นต่อศาลมีข้อมูลที่ AI สร้างขึ้นเอง ทั้งคำให้การของพยานที่ไม่มีตัวตน และคำบอกเล่าของตำรวจที่ไม่เป็นความจริง

จากรายงานของ Reuters ที่ The Verge นำมาอ้างถึง ทนายชื่อสตีเฟน อารอนส์เป็นผู้ยื่นเอกสารดังกล่าวในคดีอุทธรณ์คำพิพากษาลงโทษของลูกความ แต่ศาลระบุว่าเขาไม่ได้ตรวจสอบข้อเท็จจริงและอ้างอิงทางกฎหมายที่อยู่ในบรีฟซึ่งสร้างด้วย AI อย่างเพียงพอ ส่งผลให้เนื้อหาในเอกสารเต็มไปด้วยข้อมูลเท็จ

เอกสารที่ถูกวิจารณ์มีทั้งพยานที่ถูกแต่งขึ้นโดยสิ้นเชิง และรายละเอียดปลอมเกี่ยวกับลักษณะการแต่งกายกับรูปลักษณ์ของผู้ก่อเหตุ ซึ่งศาลมองว่าเป็นข้อผิดพลาดร้ายแรง ไม่ใช่เพียงความไม่รอบคอบทางเทคนิค แต่เป็นการนำข้อมูลที่ไม่มีอยู่จริงเข้าสู่กระบวนการพิจารณาคดี

ระหว่างการไต่สวนในเดือนสิงหาคม ผู้พิพากษา C. Shannon Bacon ยังตั้งคำถามว่าทนายความไม่ตระหนักถึงความเสี่ยงของการใช้ AI ในงานด้านกฎหมายได้อย่างไร สะท้อนความกังวลที่เพิ่มขึ้นต่อการนำเครื่องมือ AI แบบสร้างเนื้อหาไปใช้ในงานเอกสารทางกฎหมายโดยขาดการตรวจสอบจากมนุษย์

คดีนี้จึงถูกมองเป็นตัวอย่างสำคัญของความเสี่ยงจาก AI hallucination ในวงการกฎหมาย โดยเฉพาะเมื่อเอกสารที่สร้างจาก AI ถูกนำไปใช้จริงในศาล ซึ่งอาจกระทบทั้งความน่าเชื่อถือของทนาย ความยุติธรรมของกระบวนการ และมาตรฐานความรับผิดชอบในการใช้เทคโนโลยีในวิชาชีพที่มีความละเอียดอ่อนสูง