จีนเสนอคุมแชตบอตคู่หูเสมือนด้วย AI ในกลุ่มผู้เยาว์

หน่วยงานกำกับดูแลไซเบอร์ของจีนเสนอร่างกฎใหม่เพื่อจำกัดการให้บริการ AI แก่ผู้เยาว์ โดยมีเป้าหมายป้องกันไม่ให้แพลตฟอร์มเสนอ “ญาติเสมือน” คู่รักเสมือน หรือความสัมพันธ์เชิงใกล้ชิดในรูปแบบจำลองผ่าน AI กับเด็กและเยาวชน มาตรการนี้สะท้อนความกังวลของรัฐต่อผลกระทบของระบบสนทนาอัตโนมัติและตัวละครเสมือนที่อาจชักจูงผู้ใช้ที่ยังไม่บรรลุนิติภาวะเข้าสู่ความผูกพันทางอารมณ์ที่ไม่เหมาะสม

ร่างกฎดังกล่าวไม่ได้จำกัดเฉพาะบริการที่เลียนแบบความสัมพันธ์เท่านั้น แต่ยังมุ่งสกัดบริการที่อาจกระตุ้นการเสพติดหรือสร้างความเสียหายต่อสุขภาพกายและใจของผู้เยาว์ด้วย แนวทางนี้บ่งชี้ว่าจีนกำลังขยายกรอบกำกับดูแลจากการควบคุมเนื้อหาออนไลน์ทั่วไป ไปสู่การตรวจสอบรูปแบบการออกแบบผลิตภัณฑ์ AI ที่อาจกระทบพฤติกรรมและสภาพจิตใจของผู้ใช้อายุน้อย

ข้อเสนอครั้งนี้เกิดขึ้นท่ามกลางกระแสการเติบโตของแอปและบริการ AI ที่เน้นการคุยโต้ตอบแบบส่วนตัว ซึ่งผู้ให้บริการหลายรายเริ่มพัฒนาฟีเจอร์ให้ผู้ใช้สร้างตัวตนเสมือนหรือ “เพื่อน” ดิจิทัลที่ตอบสนองแบบใกล้ชิดมากขึ้น สำหรับผู้กำกับดูแล จึงไม่ใช่แค่เรื่องของความเหมาะสมทางเนื้อหา แต่ยังรวมถึงประเด็นความปลอดภัย การพึ่งพาเทคโนโลยีมากเกินไป และการปกป้องพัฒนาการของเยาวชน

หากร่างนี้มีผลบังคับใช้ บริษัทเทคโนโลยีที่ให้บริการ AI เชิงสนทนาในจีนอาจต้องปรับการออกแบบผลิตภัณฑ์ ระบบคัดกรองอายุ และนโยบายการเข้าถึงสำหรับผู้เยาว์ รวมถึงอาจต้องจำกัดฟีเจอร์บางประเภทที่สร้างการมีส่วนร่วมเชิงอารมณ์สูง ทั้งนี้ยังสะท้อนทิศทางของจีนที่เข้มงวดมากขึ้นต่อ AI ในฐานะเทคโนโลยีที่ต้องกำกับทั้งด้านนวัตกรรมและผลกระทบทางสังคมควบคู่กัน