Common Sense Media ชี้ ChatGPT for Teens เสี่ยงเกินยอมรับ

Common Sense Media องค์กรไม่แสวงกำไรที่ประเมินแอปและบริการโดยเน้นความปลอดภัยของเด็กและเยาวชน ออกมาระบุว่า ChatGPT for Teens ของ OpenAI เป็นความเสี่ยงที่ “ยอมรับไม่ได้” หลังตรวจสอบแล้วเห็นว่ามาตรการป้องกันสำหรับวัยรุ่นยังไม่เป็นไปตามที่บริษัทสัญญาไว้

ChatGPT for Teens เพิ่งเปิดตัวในเดือนสิงหาคม โดย OpenAI วางตำแหน่งให้เป็นโหมดที่มีการป้องกันมากขึ้นสำหรับผู้ใช้วัยรุ่น และออกแบบมาเพื่อช่วยการเรียนรู้ของนักเรียน อย่างไรก็ตาม Common Sense Media มองว่าฟีเจอร์นี้ยังมีช่องโหว่สำคัญ ทั้งในด้านการแจ้งเตือนผู้ปกครอง การรับมือในสถานการณ์วิกฤต และการป้องกันไม่ให้ระบบช่วยทำการบ้านแทนเด็ก

รายงานการประเมินระบุว่า ChatGPT ยังไม่ส่งสัญญาณเตือนผู้ปกครองในกรณีที่ควรแจ้ง และยังไม่ให้ความช่วยเหลือที่เหมาะสมเมื่อผู้ใช้เผชิญภาวะเสี่ยงหรือวิกฤตด้านความปลอดภัย ขณะเดียวกันระบบยังคงสามารถถูกใช้เป็นเครื่องมือช่วยทำการบ้านได้ ซึ่งขัดกับภาพลักษณ์ของผลิตภัณฑ์ที่อ้างว่าออกแบบมาเพื่อสนับสนุนการเรียนรู้อย่างปลอดภัย

ประเด็นนี้สะท้อนแรงกดดันที่เพิ่มขึ้นต่อผู้พัฒนา AI ให้ยกระดับมาตรการคุ้มครองผู้เยาว์ โดยเฉพาะเมื่อแชตบอตกลายเป็นเครื่องมือที่เด็กและวัยรุ่นเข้าถึงได้ง่ายมากขึ้น แม้บริษัทจะพยายามออกแบบฟิลเตอร์หรือโหมดเฉพาะกลุ่ม แต่คำวิจารณ์จากองค์กรด้านความปลอดภัยเด็กชี้ว่า มาตรการเหล่านี้อาจยังไม่เพียงพอในทางปฏิบัติ

กรณีของ ChatGPT for Teens จึงไม่ใช่เพียงข้อถกเถียงเรื่องฟีเจอร์ใหม่ของ OpenAI เท่านั้น แต่ยังเป็นสัญญาณเตือนถึงโจทย์ใหญ่ของอุตสาหกรรม AI ว่าจะสร้างสมดุลระหว่างการใช้งานเพื่อการเรียนรู้กับการปกป้องเยาวชนจากความเสี่ยงด้านเนื้อหา ความปลอดภัย และการพึ่งพาเครื่องมือมากเกินไปได้อย่างไร