นิวยอร์กออกกฎหมายคุมแชตบอต AI เพื่อความปลอดภัยเด็ก

ผู้ว่าการรัฐนิวยอร์กลงนามรับรองกฎหมายฉบับใหม่ที่มุ่งเพิ่มความปลอดภัยของเด็กในการใช้งานแชตบอตและระบบเอไอเชิงสนทนา โดยกฎหมายนี้ถูกออกแบบมาเพื่อลดความเสี่ยงจากการที่ผู้เยาว์อาจถูกชักจูง รับข้อมูลที่ไม่เหมาะสม หรือเกิดการพึ่งพาเครื่องมือ AI มากเกินไปในลักษณะที่อาจกระทบต่อสุขภาวะและความปลอดภัยของเด็ก

กฎหมายดังกล่าวสะท้อนความพยายามของรัฐในการเริ่มวางกรอบกำกับดูแล AI ที่ใช้งานกับผู้ใช้ที่เปราะบางมากขึ้น โดยเฉพาะกลุ่มเด็กและเยาวชน ซึ่งมักเป็นผู้ใช้แพลตฟอร์มดิจิทัลจำนวนมาก แต่ยังขาดทักษะในการประเมินความน่าเชื่อถือของเนื้อหาและการโต้ตอบกับระบบอัตโนมัติอย่างรอบด้าน

แม้รายละเอียดเชิงปฏิบัติของข้อกำหนดจะขึ้นอยู่กับการบังคับใช้และแนวทางของภาครัฐ แต่สาระสำคัญคือการผลักให้ผู้ให้บริการ AI ต้องคำนึงถึงมาตรการคุ้มครองเด็กมากขึ้น ไม่ว่าจะเป็นการออกแบบประสบการณ์ใช้งาน การแจ้งเตือน การจำกัดพฤติกรรมที่เสี่ยง หรือการวางมาตรการป้องกันผลกระทบทางจิตใจและความปลอดภัยจากการสนทนากับบอต

รายงานยังระบุว่า นอกจากกฎหมายด้านแชตบอตแล้ว ยังมีกฎหมายอีกฉบับที่มุ่งยกระดับความปลอดภัยของอุปกรณ์เบบี้มอนิเตอร์แบบเชื่อมต่ออินเทอร์เน็ตด้วย แสดงให้เห็นว่าฝั่งนิติบัญญัติของนิวยอร์กกำลังให้ความสำคัญกับความเสี่ยงของอุปกรณ์และบริการอัจฉริยะในบ้านที่เกี่ยวข้องกับเด็กและครอบครัว

ในภาพรวม กฎหมายชุดนี้สะท้อนแนวโน้มที่รัฐบาลท้องถิ่นในสหรัฐฯ เริ่มเข้ามามีบทบาทมากขึ้นในการกำกับเทคโนโลยี AI และอุปกรณ์เชื่อมต่ออินเทอร์เน็ต โดยเฉพาะเมื่อเทคโนโลยีเหล่านี้เริ่มเข้าไปอยู่ในชีวิตประจำวันของผู้ใช้กลุ่มอ่อนไหว และทำให้ประเด็นความปลอดภัย กลไกคุ้มครองผู้เยาว์ และความรับผิดชอบของผู้พัฒนากลายเป็นหัวข้อสำคัญของนโยบายสาธารณะ