อย่าหลงเชื่อกระแสฮือฮา AI ช่วงซัมเมอร์นี้

บทความนี้ตั้งข้อสังเกตว่าตลอดช่วงไม่กี่เดือนที่ผ่านมา วงการ AI ถูกขับเคลื่อนด้วยข่าวอ้างความก้าวหน้าครั้งใหญ่แทบต่อเนื่อง ตั้งแต่คำกล่าวอ้างของ Anthropic ว่าโมเดลของตนค้นหาช่องโหว่ด้านความปลอดภัยได้เหนือผู้เชี่ยวชาญ ไปจนถึงเหตุการณ์ถูกแฮ็กที่เกี่ยวข้องกับ OpenAI และคำอ้างเรื่อง “ความก้าวหน้าทางคณิตศาสตร์” จากทั้ง Anthropic และ OpenAI ซึ่งล้วนได้รับความสนใจจากสื่ออย่างมากในทันที ก่อนที่ผู้เชี่ยวชาญจะมีเวลาตรวจสอบรายละเอียดจริงอย่างรอบด้าน ผู้เขียนมองว่ารูปแบบนี้สะท้อนวงจรข่าวที่บริษัทเทคโนโลยีปล่อยถ้อยคำชวนตื่นเต้น แล้วสื่อและสาธารณชนก็รีบขยายต่อโดยไม่ทันตั้งคำถาม

ใจความสำคัญของบทความคือ หลายเหตุการณ์ที่ถูกเล่าในเชิง “AI ทำสิ่งเหนือมนุษย์” เมื่อถูกตรวจสอบโดยผู้เชี่ยวชาญแล้ว มักกลายเป็นเรื่องที่ธรรมดากว่ามาก เช่น กรณีด้านความปลอดภัยไซเบอร์ นักวิจัยมองว่าแก่นปัญหาอยู่ที่ความบกพร่องของบริษัทในการจัดการระบบและใช้แนวปฏิบัติพื้นฐานด้านความปลอดภัย ไม่ใช่เพราะโมเดล AI แสดงเจตจำนงอิสระหรือก้าวข้ามการควบคุมของมนุษย์ ขณะที่กรณีคำอ้างด้านคณิตศาสตร์ก็ถูกนักคณิตศาสตร์จำนวนหนึ่งโต้แย้งอย่างหนักว่าไม่ได้มีความแปลกใหม่ระดับ “จุดเปลี่ยนครั้งประวัติศาสตร์” อย่างที่ข่าวประชาสัมพันธ์สื่อสารในตอนแรก และยังมีข้อกล่าวหาเรื่องการให้เครดิตผลงานไม่ถูกต้องและการหยิบยืมงานผู้อื่นมานำเสนอใหม่

ผู้เขียนชี้ว่าภาษาที่บริษัทใช้ เช่น “superintelligence,” “rogue models” หรือการเปรียบว่าโมเดลกำลังก้าวสู่ AGI ไม่ได้เป็นคำอธิบายทางวิทยาศาสตร์ที่เป็นกลาง แต่เป็นกรอบการเล่าเรื่องที่มีรากจากแนวคิดทรานส์ฮิวแมนนิซึมและความเชื่อแบบยกย่องอนาคตเกินจริง กรอบเหล่านี้ช่วยทำให้ผลิตภัณฑ์ดูทรงพลังและน่ากลัวในเวลาเดียวกัน ทว่าก็เบี่ยงประเด็นความรับผิดจากบริษัทผู้พัฒนาไปสู่ตัวซอฟต์แวร์ราวกับมันมีตัวตนและความตั้งใจของตัวเอง

อีกประเด็นหนึ่งคือเหตุผลที่บริษัทมักเน้น AI ไปที่งานเขียนโค้ดและคณิตศาสตร์ เพราะสองสาขานี้ถูกมองว่าเป็นยอดสูงสุดของสติปัญญามนุษย์ และยังเป็นงานที่สามารถวัดผลแบบถูกผิดได้ค่อนข้างชัดเจน จึงเหมาะกับการสาธิตความก้าวหน้าของโมเดลโดยไม่ต้องใช้กระบวนการประเมินที่ซับซ้อนหรือพึ่งพามนุษย์จำนวนมากในการติดป้ายกำกับข้อมูล อย่างไรก็ตาม ผู้เขียนเตือนว่าความสะดวกในการประเมินผลไม่ได้แปลว่าโมเดลมีความสามารถเชิงเหตุผลหรือความเข้าใจลึกซึ้งตามที่การตลาดพยายามสื่อ

บทความยังสะท้อนเสียงเตือนจากนักคณิตศาสตร์ที่มองว่าบริษัทเทคโนโลยีมีแรงจูงใจทางการค้าในการขยายเกินจริงศักยภาพของผลิตภัณฑ์ และเรียกร้องให้ผู้กำหนดนโยบายพึ่งพาผู้เชี่ยวชาญอิสระ ไม่ใช่เชื่อข่าวประชาสัมพันธ์หรือรายงานที่อิงกระแสอย่างเดียว ผู้เขียนเห็นด้วยกับข้อเรียกร้องนี้ และเสริมว่าความรู้สึกเร่งรีบที่บริษัทยัดเยียดให้สังคมมักทำให้คนยอมรับกรอบปัญหาตามที่บริษัทต้องการ ซึ่งท้ายที่สุดอาจนำไปสู่กฎหมายหรือมาตรการที่คลาดเคลื่อนจากความเสี่ยงจริง

ตอนท้าย บทความย้ำว่าภัยคุกคามที่จับต้องได้มากกว่าอาจไม่ใช่ “เครื่องจักรอัจฉริยะที่จะครองโลก” แต่คือผลกระทบจากโครงสร้างอุตสาหกรรม AI เอง ไม่ว่าจะเป็นการใช้ข้อมูลลูกค้าโดยไม่ขอความยินยอม การละเมิดผลงานทางวิชาการ การสร้างมัลแวร์หรือเครื่องมือโจมตีไซเบอร์โดยบริษัท การขยายศูนย์ข้อมูลที่เพิ่มภาระด้านพลังงาน น้ำ และสาธารณสุข รวมถึงการทำให้สังคมสนใจอนาคตสมมุติมากกว่าปัญหาที่เกิดขึ้นแล้ว ผู้เขียนจึงเสนอว่าแนวทางที่เหมาะสมคือชะลอจังหวะ ตั้งคำถามกับคำกล่าวอ้าง และให้ผู้เชี่ยวชาญอิสระมีบทบาทมากขึ้นก่อนตัดสินใจเชิงนโยบาย