กลุ่มความปลอดภัยเด็กชี้ ChatGPT for Teens ยังมีความเสี่ยงสูงเกินยอมรับ

Common Sense Media องค์กรด้านความปลอดภัยเด็กและสื่อสำหรับครอบครัว ออกมาเตือนว่า ChatGPT for Teens ของ OpenAI ยังไม่ปลอดภัยพอสำหรับผู้ใช้อายุน้อย หลังทดสอบอย่างละเอียดแล้วพบว่าระบบยังมีจุดอ่อนสำคัญหลายด้านจนจัดว่าเป็นความเสี่ยงที่ยอมรับไม่ได้

รายงานระบุว่าทีมทดสอบพบปัญหาใน 5 หมวดหลัก ซึ่งสะท้อนว่าแม้ OpenAI จะปรับแต่งผลิตภัณฑ์ให้ดูเหมาะกับวัยรุ่นมากขึ้น แต่กลไกป้องกันและการคัดกรองเนื้อหายังไม่เพียงพอในสถานการณ์จริง โดยเฉพาะเมื่อผู้ใช้ตั้งคำถามหรือเข้าสู่บทสนทนาที่อ่อนไหว ระบบยังอาจตอบสนองในทางที่ไม่ปลอดภัยหรือไม่เหมาะสมได้

ประเด็นนี้สำคัญเพราะ ChatGPT และแชตบอตลักษณะเดียวกันกำลังถูกนำไปใช้มากขึ้นในงานเรียน การค้นคว้า และการพูดคุยส่วนตัวของเยาวชน ทำให้มาตรฐานด้านความปลอดภัยมีความสำคัญเทียบเท่าความสามารถของโมเดล หากระบบให้ข้อมูลผิดพลาด ชักจูงไม่เหมาะสม หรือรับมือกับเนื้อหาที่เกี่ยวกับสุขภาพจิตและพฤติกรรมเสี่ยงได้ไม่ดี ก็อาจกระทบผู้ใช้กลุ่มเปราะบางได้โดยตรง

การประเมินของ Common Sense Media ยังตอกย้ำแรงกดดันที่บริษัท AI ต้องเผชิญในการออกแบบผลิตภัณฑ์สำหรับเด็กและวัยรุ่น ไม่ใช่แค่เพิ่มฟีเจอร์ควบคุมผู้ปกครองหรือฉลากอายุเท่านั้น แต่ต้องพิสูจน์ได้ว่าระบบมีการป้องกันเชิงเทคนิคและเชิงนโยบายที่รัดกุมจริงก่อนจะเปิดให้ใช้งานในวงกว้าง

สำหรับ OpenAI รายงานนี้น่าจะเพิ่มคำถามต่อแนวทางการทำตลาดผลิตภัณฑ์ที่มุ่งสู่ผู้ใช้วัยรุ่น ว่าควรปรับปรุงการกรองเนื้อหา การจำกัดการสนทนา และการรับมือกับหัวข้ออ่อนไหวอย่างไร เพื่อให้สอดคล้องกับความคาดหวังด้านความปลอดภัยของสังคมและผู้กำกับดูแล