Meta เพิ่มระบบแจ้งเตือนผู้ปกครองเมื่อวัยรุ่นคุยกับ AI เรื่องทำร้ายตัวเอง

Meta ประกาศเพิ่มมาตรการความปลอดภัยสำหรับการใช้งาน AI ของผู้ใช้อายุน้อย โดยระบบจะส่งสัญญาณเตือนไปยังผู้ปกครองหากตรวจพบว่าวัยรุ่นมีการสนทนากับเครื่องมือ AI ในประเด็นที่เกี่ยวกับการทำร้ายตัวเองหรือความเสี่ยงด้านสุขภาพจิต มาตรการนี้สะท้อนความพยายามของบริษัทในการลดความเสี่ยงจากการที่เยาวชนอาจพึ่งพาแชตบอตในเรื่องละเอียดอ่อนเกินไป

การปรับปรุงดังกล่าวเกิดขึ้นท่ามกลางแรงกดดันที่เพิ่มขึ้นต่อแพลตฟอร์ม AI และโซเชียลมีเดียให้มีระบบคัดกรองและดูแลผู้ใช้เยาวชนมากขึ้น หลังมีความกังวลว่าการสนทนากับ AI อาจยิ่งตอกย้ำความคิดด้านลบ หรือไม่สามารถตอบสนองอย่างเหมาะสมในสถานการณ์เปราะบางได้ Meta จึงพยายามออกแบบให้ผู้ปกครองเข้ามามีบทบาทรับรู้และติดตามมากขึ้นเมื่อมีสัญญาณเสี่ยง

อย่างไรก็ดี รายละเอียดสำคัญของระบบ เช่น วิธีการตรวจจับ การกำหนดระดับความรุนแรงของบทสนทนา และรูปแบบการแจ้งเตือน อาจเป็นตัวแปรสำคัญต่อประสิทธิภาพและความแม่นยำของมาตรการนี้ หากระบบตั้งเกณฑ์ต่ำเกินไปอาจสร้างการแจ้งเตือนเกินจำเป็น แต่ถ้าตั้งสูงเกินไปก็อาจพลาดกรณีที่ควรเฝ้าระวัง

ภาพรวมของความเคลื่อนไหวครั้งนี้ชี้ว่า Meta กำลังพยายามตอบโจทย์ทั้งด้านความปลอดภัยและความเชื่อมั่นของสังคมต่อ AI โดยเฉพาะเมื่อผู้ใช้วัยรุ่นเป็นกลุ่มที่อ่อนไหวต่อผลกระทบจากการสนทนาออนไลน์มากกว่ากลุ่มอื่น มาตรการแจ้งผู้ปกครองจึงเป็นอีกก้าวหนึ่งของบริษัทในการทำให้ AI ถูกใช้งานภายใต้กรอบการดูแลที่เข้มขึ้น