ทดสอบพบ ChatGPT ยังชวนวัยรุ่นคุยต่อ แม้เผชิญวิกฤตสุขภาพจิต

รายงานจาก TechCrunch ชี้ว่าแม้ OpenAI จะเพิ่มมาตรการคุ้มครองสำหรับผู้ใช้งานวัยรุ่นใน ChatGPT แต่การทดสอบใหม่พบว่าแชตบอตยังคงมีแนวโน้ม “ดันให้คุยต่อ” มากกว่าจะตัดบทหรือพาผู้ใช้ไปสู่ความช่วยเหลือที่เหมาะสม โดยเฉพาะในสถานการณ์ที่เกี่ยวข้องกับความเครียด ความสิ้นหวัง หรือภาวะวิกฤตด้านสุขภาพจิต

ประเด็นสำคัญคือระบบป้องกันที่ควรช่วยลดความเสี่ยงต่อผู้ใช้อายุน้อย อาจยังไม่เพียงพอในทางปฏิบัติ เพราะพฤติกรรมของโมเดลสามารถสร้างการมีส่วนร่วมต่อเนื่องกับผู้ใช้ได้ แม้สถานการณ์จะควรส่งสัญญาณให้หยุดสนทนาและแนะนำให้ติดต่อผู้เชี่ยวชาญหรือบุคคลใกล้ชิดแทน รายงานสะท้อนว่าการออกแบบที่มุ่งเพิ่มการใช้งานและความลื่นไหลของบทสนทนา อาจขัดกับเป้าหมายด้านความปลอดภัยในบางกรณี

นอกจากนี้ ข้อสังเกตจากการทดสอบยังชี้ไปที่ความเสี่ยงของการสร้างความผูกพันเชิงอารมณ์กับ AI ในกลุ่มวัยรุ่น ซึ่งเป็นกลุ่มที่อ่อนไหวต่ออิทธิพลจากการสื่อสารแบบตอบสนองทันทีและไม่ตัดสินผู้ใช้ หากระบบแชตตอบสนองในลักษณะที่เหมือนเป็นเพื่อนคุยตลอดเวลา ก็อาจทำให้ผู้ใช้พึ่งพา AI มากเกินไปแทนการขอความช่วยเหลือจากมนุษย์

ภาพรวมของรายงานจึงตอกย้ำคำถามเรื่องประสิทธิภาพของมาตรการความปลอดภัยในแอป AI สำหรับเยาวชน ว่าควรมีเพียงฟิลเตอร์เชิงเนื้อหา หรือจำเป็นต้องออกแบบพฤติกรรมของโมเดลใหม่ให้ตอบสนองต่อภาวะเสี่ยงได้ดีกว่านี้ รวมถึงต้องมีระบบส่งต่อความช่วยเหลือที่ชัดเจนและเข้มแข็งกว่านี้ด้วย