Meta เพิ่มระบบแจ้งเตือนผู้ปกครองเมื่อวัยรุ่นคุยเรื่องทำร้ายตัวเองกับ AI

Meta ประกาศเพิ่มฟีเจอร์ด้านความปลอดภัยสำหรับผู้ใช้วัยรุ่น โดยเปิดให้ผู้ปกครองได้รับการแจ้งเตือนเมื่อระบบ AI ของบริษัทตรวจพบว่าลูกหลานอาจกำลังคุยเรื่องการฆ่าตัวตายหรือการทำร้ายตัวเองบนบริการของ Meta เช่น Instagram, Facebook และ Meta Horizons

ฟีเจอร์นี้ถูกออกแบบมาเพื่อช่วยให้ผู้ปกครองเข้ามารับรู้สถานการณ์ได้เร็วขึ้น และมีโอกาสเข้าช่วยเหลือหรือหาทางสนับสนุนได้ทันท่วงที แทนที่จะปล่อยให้บทสนทนาที่มีความเสี่ยงดำเนินต่อไปโดยไม่มีใครทราบ

อย่างไรก็ตาม การแจ้งเตือนจะไม่เปิดใช้งานอัตโนมัติ ผู้ใช้ต้องเลือกเข้าร่วมระบบควบคุมดูแลของผู้ปกครองหรือผู้ดูแลก่อน จึงจะกำหนดบัญชีในครอบครัวที่ต้องการติดตามได้ ซึ่งสะท้อนแนวทางที่ Meta พยายามผสานเครื่องมือความปลอดภัยเข้ากับการจัดการสิทธิ์ของครอบครัว

การอัปเดตนี้ตอกย้ำแรงกดดันที่แพลตฟอร์มโซเชียลและบริการ AI ต้องรับมือมากขึ้นในประเด็นความปลอดภัยของเยาวชน โดยเฉพาะเมื่อ AI ถูกใช้เป็นคู่สนทนาหรือที่พึ่งทางอารมณ์ของผู้ใช้บางกลุ่ม

ในภาพรวม ฟีเจอร์ดังกล่าวเป็นอีกก้าวของ Meta ในการเพิ่มมาตรการคุ้มครองเด็กและวัยรุ่นบนแพลตฟอร์มของตน พร้อมส่งสัญญาณว่าบริษัทกำลังพยายามทำให้เครื่องมือ AI รับผิดชอบต่อความเสี่ยงด้านสุขภาพจิตมากขึ้น