OpenAI เตรียมจำกัดข้อมูลอาวุธใน ChatGPT สำหรับผู้ใช้วัยรุ่น

OpenAI ประกาศว่าจะเพิ่มข้อจำกัดในการให้ข้อมูลเกี่ยวกับอาวุธใน ChatGPT สำหรับผู้ใช้ที่เป็นวัยรุ่น โดยจะไม่ตอบคำถามเชิงปฏิบัติที่อาจนำไปใช้ด้านอาวุธมากขึ้น แม้คำถามนั้นจะไม่ได้ระบุเจตนารุนแรงอย่างชัดเจนก็ตาม มาตรการนี้สะท้อนท่าทีที่เข้มขึ้นของบริษัทต่อการใช้ AI ในบริบทที่อาจก่อให้เกิดอันตราย

แนวทางใหม่ไม่ได้จำกัดอยู่แค่การปิดกั้นคำตอบบางประเภท แต่ยังครอบคลุมการจัดการบทสนทนาที่ดูเหมือนผู้ใช้กำลังหมกมุ่นกับความรุนแรง โดย OpenAI ระบุว่าจะพยายามยุติการสนทนาในลักษณะดังกล่าวเมื่อระบบประเมินว่าอาจเป็นสัญญาณเสี่ยง ซึ่งเป็นการขยับจากการ “ตอบคำถาม” ไปสู่การเฝ้าระวังรูปแบบพฤติกรรมของผู้ใช้มากขึ้น

อีกส่วนสำคัญคือระบบแจ้งเตือนผู้ปกครอง หากบัญชีของผู้ใช้วัยรุ่นถูกระงับหรือหยุดชั่วคราวหลังจากมีการสนทนาเกี่ยวกับความรุนแรงซ้ำ ๆ นโยบายนี้ชี้ให้เห็นว่า OpenAI ต้องการให้การดูแลความปลอดภัยของผู้เยาว์เชื่อมโยงกับผู้ปกครองมากขึ้น ไม่ใช่ปล่อยให้เป็นหน้าที่ของตัวระบบหรือผู้ใช้เพียงลำพัง

การเปลี่ยนแปลงครั้งนี้เกิดขึ้นท่ามกลางแรงกดดันที่บริษัท AI หลายแห่งต้องรับมือเกี่ยวกับความปลอดภัย เนื้อหาที่ไม่เหมาะสม และความเสี่ยงจากการที่แชตบอตตอบสนองต่อคำถามอ่อนไหวได้มากเกินไป สำหรับ OpenAI นี่เป็นอีกก้าวของการปรับสมดุลระหว่างการให้ประโยชน์ของ AI กับการลดโอกาสการนำไปใช้ในทางอันตราย โดยเฉพาะในกลุ่มผู้ใช้ที่ยังเป็นเยาวชน