Meta เตรียมแจ้งผู้ปกครองเมื่อ AI ตรวจพบสัญญาณเสี่ยงฆ่าตัวตายในบัญชีวัยรุ่น

Meta ประกาศเพิ่มมาตรการความปลอดภัยสำหรับผู้ใช้วัยรุ่น โดยระบบ AI ของบริษัทจะเริ่มแจ้งเตือนผู้ปกครองเมื่อพบสัญญาณที่อาจบ่งชี้ความเสี่ยงต่อการฆ่าตัวตายในบัญชีของผู้เยาว์บนแพลตฟอร์มของตน

การเปลี่ยนแปลงนี้สะท้อนทิศทางที่ Meta ต้องการใช้เครื่องมืออัตโนมัติเข้ามาช่วยเฝ้าระวังพฤติกรรมหรือสัญญาณอันตรายที่อาจมองข้ามได้ในบัญชีของเด็กและวัยรุ่น โดยเฉพาะในบริบทที่แพลตฟอร์มโซเชียลมีเดียถูกจับตามองมากขึ้นเรื่องผลกระทบต่อสุขภาพจิตของผู้ใช้เยาวชน

แม้รายละเอียดเชิงเทคนิคของระบบจะไม่ได้เปิดเผยทั้งหมดในข้อมูลที่มี แต่สาระสำคัญคือการให้ AI ทำหน้าที่คัดกรองและยกระดับการแจ้งเตือนเมื่อเห็นรูปแบบที่เข้าข่ายความเสี่ยง เพื่อให้ผู้ปกครองรับรู้และเข้ามาดูแลได้ทันท่วงที

มาตรการนี้ยังเป็นส่วนหนึ่งของความพยายามในวงกว้างของ Meta ในการเพิ่มชั้นการป้องกันสำหรับผู้ใช้อายุน้อยบนแพลตฟอร์มของบริษัท ซึ่งน่าจะช่วยลดความเสี่ยงด้านความปลอดภัยและทำให้การดูแลบัญชีของวัยรุ่นมีความใกล้ชิดมากขึ้น

ในภาพรวม การเดินหน้าดังกล่าวตอกย้ำว่าบริษัทเทคโนโลยีขนาดใหญ่กำลังใช้ AI ไม่ใช่แค่เพื่อแนะนำคอนเทนต์หรือโฆษณา แต่ยังเพื่อเฝ้าระวังสัญญาณด้านความปลอดภัยและสนับสนุนการปกป้องผู้ใช้กลุ่มเปราะบางมากขึ้นด้วย