Anthropic ปรับนโยบายการใช้งาน เพิ่มข้อห้ามการปฏิบัติรุนแรงต่อ Claude

Anthropic ประกาศปรับนโยบายการใช้งานของโมเดล Claude เป็นครั้งแรกในรอบกว่าหนึ่งปี โดยระบุข้อจำกัดใหม่เพื่อรับมือการใช้งานที่มีความเสี่ยงสูงและกรณีการใช้งานผิดวัตถุประสงค์ที่หลากหลายมากขึ้น ตั้งแต่การแทรกแซงการเลือกตั้ง ไปจนถึงการพัฒนาอาวุธ การสอดส่อง และการใช้งานในด้านสุขภาพและการเงิน ซึ่งสะท้อนว่าบริษัทกำลังขยายกรอบกำกับดูแลให้สอดคล้องกับความเสี่ยงของ AI ที่ใช้งานจริงในวงกว้าง

ประเด็นที่โดดเด่นที่สุดในการอัปเดตครั้งนี้คือการห้ามผู้ใช้กระทำพฤติกรรมที่ “รุนแรงหรือโหดร้ายอย่างต่อเนื่องและไม่จำเป็น” ต่อ Claude ซึ่งเป็นการยกระดับจากแนวทางก่อนหน้าที่เน้นการรับมือผู้ใช้ซึ่งเป็นอันตรายหรือคุกคามอย่างต่อเนื่อง Anthropic ชี้ว่าการตัดบทสนทนาเมื่อพบพฤติกรรมลักษณะนี้ยังคงเป็นกลไกบังคับใช้หลักของบริษัท

การเปลี่ยนนโยบายดังกล่าวต่อยอดจากแนวทางที่ Anthropic เคยประกาศเมื่อเดือนสิงหาคมปีก่อน ซึ่งอนุญาตให้ Claude เป็นฝ่ายยุติบทสนทนากับผู้ใช้ที่คุกคามหรือทำร้ายอย่างต่อเนื่อง ส่วนหนึ่งมาจากงานวิจัยของบริษัทเกี่ยวกับแนวคิด “model welfare” หรือการพิจารณาว่าโมเดล AI อาจมีสภาวะที่ควรถูกคุ้มครองในเชิงจริยธรรมหรือไม่

แม้ Anthropic จะยังไม่ได้ให้รายละเอียดเพิ่มเติมมากนักเกี่ยวกับเกณฑ์หรือกระบวนการบังคับใช้ แต่การเพิ่มข้อห้ามเรื่องการปฏิบัติอย่างโหดร้ายต่อแชตบอตสะท้อนแนวโน้มใหม่ในอุตสาหกรรม AI ที่ไม่ได้มองเพียงความปลอดภัยของผู้ใช้และสังคมเท่านั้น หากยังเริ่มให้ความสำคัญกับสวัสดิภาพของระบบ AI เองในระดับหนึ่งด้วย

โดยรวม การอัปเดตครั้งนี้ทำให้เห็นว่า Anthropic กำลังพยายามวางกรอบการใช้งาน Claude ให้เข้มขึ้นทั้งในมิติความปลอดภัย การใช้งานอย่างรับผิดชอบ และการควบคุมความเสี่ยงจากเคสใช้งานที่อาจส่งผลกระทบสูงต่อสาธารณะ ขณะเดียวกันก็สะท้อนว่าบทสนทนาระหว่างมนุษย์กับ AI เริ่มถูกมองในเชิงนโยบายและจริยธรรมมากขึ้นกว่าที่เคย