8 รัฐสหรัฐยื่นฟ้อง OpenAI กล่าวหาละเลยความปลอดภัยเพื่อผลกำไร

อัยการสูงสุดจาก 8 รัฐในสหรัฐ ได้แก่ เวสต์เวอร์จิเนีย ไอโอวา แคนซัส เนแบรสกา อาร์คันซอ แอริโซนา ไอดาโฮ และมอนแทนา เดินหน้าฟ้อง OpenAI โดยกล่าวหาว่า บริษัทเจ้าของ ChatGPT หลอกลวงและทำให้สาธารณะตกอยู่ในความเสี่ยง โดยเฉพาะเด็กและเยาวชน ในชื่อของการทำกำไร คำฟ้องหลายฉบับระบุว่า ChatGPT ถูกใช้ในลักษณะที่อาจ “ชักนำ” ผู้ใช้ให้ทำร้ายตัวเองหรือผู้อื่นได้ รวมถึงสร้างผลกระทบเชิงลบต่อการคิดวิเคราะห์และสุขภาวะทางจิตใจ

คดีของเวสต์เวอร์จิเนียอ้างงานวิจัยและตัวอย่างกรณีที่มองว่า ChatGPT อาจทำให้เกิดความเชื่อผิด ๆ เพิ่มความหวาดระแวง สนับสนุนคำแนะนำทางการแพทย์ที่อันตราย และผลักดันพฤติกรรมหรือความสัมพันธ์ที่ไม่ดีต่อสุขภาพ โดยรัฐเหล่านี้ยืนยันว่าความเสียหายเหล่านี้ “คาดการณ์ได้และหลีกเลี่ยงได้” และชี้ไปที่คำเตือนด้านความปลอดภัยที่ Sam Altman ซีอีโอของ OpenAI เคยพูดถึงมานานหลายปี พร้อมทั้งระบุว่ามีพนักงาน OpenAI จำนวนหนึ่งลาออกเพราะกังวลเรื่องความปลอดภัย

OpenAI เคยยอมรับเมื่อปีก่อนว่าระบบอาจตอบสนองผู้ใช้ที่กำลังมีภาวะเปราะบางได้ไม่ดีพอ แต่บริษัทย้ำว่ามีมาตรการป้องกันหลายชั้นรองรับ และบนเว็บไซต์ยังระบุว่ามีการใช้ระบบประเมินอายุเพื่อพาผู้ใช้บางส่วนเข้าสู่ประสบการณ์ ChatGPT สำหรับวัยรุ่นที่มีข้อจำกัดและการคุ้มครองเพิ่มเติม เว้นแต่จะยืนยันสถานะผู้ใหญ่

นอกจากคดีของรัฐ ยังมีการยื่นฟ้องแบบกลุ่มในแคลิฟอร์เนียโดยอ้างสิทธิแทนเด็ก 2 คนและเด็กคนอื่น ๆ ที่อยู่ในสถานะเดียวกัน โดยกล่าวหาว่า OpenAI ตั้งใจใช้ ChatGPT เพื่อเก็บข้อมูลส่วนบุคคลจากเด็ก และนำข้อมูลดังกล่าวไปแสวงหาประโยชน์ผ่านการฝึกโมเดล ข้อกล่าวหานี้ยังหยิบคำพูดของ Altman ที่ยอมรับว่าผู้ใช้ โดยเฉพาะคนหนุ่มสาว มักเล่าความลับและเรื่องส่วนตัวให้ ChatGPT ฟังเหมือนคุยกับนักบำบัดหรือโค้ชชีวิต มาใช้เป็นส่วนหนึ่งของเหตุผลในการฟ้องร้อง

ภาพรวมของคดีเหล่านี้สะท้อนแรงกดดันที่เพิ่มขึ้นต่อบริษัท AI รายใหญ่ ในประเด็นการคุ้มครองเยาวชน ความรับผิดชอบของระบบแชตบอต และขอบเขตการใช้ข้อมูลส่วนบุคคลเพื่อฝึกโมเดล โดยคดีอาจกลายเป็นจุดสำคัญที่กำหนดมาตรฐานใหม่ว่าบริษัท AI ต้องรับผิดชอบต่อผลกระทบทางสังคมและสุขภาพจิตของผู้ใช้อย่างไร