ร่างกฎหมายความปลอดภัย AI ของ Anthropic กำหนดเกณฑ์ให้รัฐเข้มงวดเฉพาะเมื่อเสี่ยงเสียหายมหาศาล

รายงานจาก Politico ที่อ้างเอกสารร่างลับของกฎหมายความปลอดภัยด้าน AI ซึ่ง Anthropic ผู้พัฒนา Claude เสนอให้ผู้กำหนดนโยบายสหรัฐฯ พิจารณา เผยว่าข้อเสนอของบริษัทเปิดทางให้รัฐบาลเข้ามาแทรกแซงหรือจำกัดการใช้งานโมเดล AI ได้ก็ต่อเมื่อมีความเสี่ยงที่คาดการณ์ได้และใกล้จะเกิดขึ้นจริงในระดับรุนแรงมาก เช่น ความเสียหายมูลค่ามากกว่า 1 พันล้านดอลลาร์ หรือมีโอกาสทำให้มีผู้เสียชีวิตหรือบาดเจ็บสาหัสเกิน 50 คน

เงื่อนไขที่ร่างนี้ระบุยังผูกกับสถานการณ์เฉพาะ เช่น การสร้างหรือปล่อยอาวุธชีวภาพ การที่โมเดลหลุดพ้นจากการควบคุมของผู้พัฒนา หรือการถูกใช้ในเหตุโจมตีทางไซเบอร์ กล่าวได้ว่าไม่ใช่กฎหมายที่เปิดให้รัฐเข้าไปกำกับแบบกว้าง แต่เป็นกรอบที่ตั้งเกณฑ์ไว้ค่อนข้างสูงมากก่อนจะสั่งการกับบริษัทได้

Politico ยังชี้ว่าข้อเสนอนี้มีความคล้ายคลึงกับแนวทางในกฎหมาย AI ของแคลิฟอร์เนีย ขณะที่โฆษกของ Anthropic ระบุว่าร่างดังกล่าวสะท้อนกรอบ “Advanced AI Framework” ที่บริษัทผลักดันกับทั้งฝ่ายนิติบัญญัติระดับรัฐและรัฐบาลกลางมาตั้งแต่เดือนมิถุนายน และมองว่าเป็นนโยบายที่สมเหตุสมผลซึ่งสภาคองเกรสควรเดินหน้าต่อ

อย่างไรก็ตาม บทความตั้งคำถามถึงแรงจูงใจและผลกระทบเชิงนโยบายของข้อเสนอเช่นนี้ โดยมองว่าบริษัทเทคโนโลยีรายใหญ่จำนวนมากอาจใช้คำเตือนเรื่องหายนะของ AI ในอนาคตเพื่อสร้างความชอบธรรมให้กับการกำกับดูแลตนเอง ขณะเดียวกันกลับยังไม่แก้ปัญหาความเสียหายที่เกิดขึ้นแล้วในปัจจุบัน ทั้งต่ออุตสาหกรรมต่าง ๆ และต่อผู้ใช้งานในเชิงจิตวิทยาและสังคม

ประเด็นดังกล่าวเกิดขึ้นท่ามกลางกระแสวิพากษ์วิจารณ์ด้านความปลอดภัยของวงการ AI ที่รุนแรงขึ้น ก่อนหน้านี้หัวหน้าฝ่ายความปลอดภัยของ Anthropic ก็ลาออกพร้อมเตือนว่า “โลกกำลังอยู่ในภาวะเสี่ยง” และเมื่อไม่นานมานี้ OpenAI ยังถูกอัยการสูงสุดจาก 8 รัฐในสหรัฐฯ กล่าวหาว่าเพิกเฉยต่อคำเตือนด้านความปลอดภัยของตัวเองเพื่อผลประโยชน์ทางธุรกิจ

โดยสรุป ข่าวนี้สะท้อนให้เห็นว่าการผลักดันกฎเกณฑ์ AI ของบริษัทเทคโนโลยีรายใหญ่ไม่ได้มีเพียงมิติเรื่องความปลอดภัย แต่ยังเกี่ยวพันกับอำนาจต่อรองทางนโยบาย ภาพลักษณ์ของอุตสาหกรรม และคำถามว่ากฎที่เสนอขึ้นมานั้นจะปกป้องสาธารณะได้จริง หรือเพียงสร้างกรอบกำกับที่สอดคล้องกับผลประโยชน์ของผู้พัฒนาโมเดลเป็นหลัก