AI คัดเรซูเม่ได้ลำเอียงกว่ามนุษย์ และความเสี่ยงป่วนข้อมูลอากาศกำลังเพิ่ม

MIT Technology Review ฉบับ The Download วันนี้หยิบสองประเด็นที่สะท้อนผลกระทบใหม่ของ AI ต่อโครงสร้างพื้นฐานและการตัดสินใจในโลกจริง โดยเรื่องแรกตั้งคำถามต่อการใช้ AI คัดเลือกผู้สมัครงาน เพราะมีงานวิจัยใหม่ชี้ว่าโมเดลภาษาไม่ได้แค่รับอคติจากข้อมูลฝึก แต่ยังอาจสร้างอคติของตัวเองจากประสบการณ์การใช้งาน จนมีแนวโน้มเหมารวมผู้สมัครมากกว่ามนุษย์เสียอีก

บทความอธิบายว่าความเสี่ยงนี้ยิ่งน่ากังวลขึ้นเมื่อบริษัท AI กำลังพัฒนาระบบแบบ agentic ที่จดจำรายละเอียดเล็กน้อยเกี่ยวกับผู้ใช้ได้มากขึ้น ความสามารถในการ “จำ” เหล่านี้อาจกลายเป็นข้อมูลที่ช่วยให้โมเดลสร้างการตีความแบบมีอคติ และส่งผลต่อการคัดคนเข้าทำงานตั้งแต่ขั้นตอนแรก ก่อนที่มนุษย์จะมีโอกาสตรวจสอบด้วยซ้ำ

อีกเรื่องคือความเสี่ยงจากการบิดเบือนข้อมูลสภาพอากาศ ซึ่งเดิมใช้ประกอบการตัดสินใจของนักบินสายการบิน ผู้ดูแลโครงข่ายไฟฟ้า และเกษตรกร แต่ปัจจุบันยังถูกนำไปเชื่อมกับตลาดทำนายผลลัพธ์ที่ผู้คนใช้วางเดิมพัน ทำให้เกิดแรงจูงใจในการปั่นหรือทำให้ข้อมูลอากาศคลาดเคลื่อนเพื่อหาประโยชน์ทางการเงิน

ผู้เขียนเตือนว่าการเปลี่ยนไปพึ่งพาการพยากรณ์อากาศด้วย AI และข้อมูลอัตโนมัติมากขึ้น อาจทำให้ความเสี่ยงจากการโจมตีหรือการปั่นข้อมูลลุกลามจากความผิดพลาดเล็ก ๆ ไปสู่ปัญหาที่กระทบระบบกว้างขึ้น หากข้อมูลต้นทางไม่น่าเชื่อถือ โมเดลก็ย่อมส่งต่อความคลาดเคลื่อนไปยังการตัดสินใจสำคัญหลายภาคส่วน

นอกจากสองหัวข้อหลัก ฉบับนี้ยังสรุปข่าวใหญ่หลายเรื่องที่สะท้อนการแข่งขันด้านคอมพิวต์และอิทธิพลของแพลตฟอร์ม เช่น SpaceX เจรจาขายกำลังประมวลผลให้เพนตากอน, Anthropic คุยกับ Meta เรื่องคอมพิวต์, Trump Media เสนอค่าสมาชิกเพื่อเข้าถึงโพสต์ของทรัมป์ก่อนใคร, รวมถึงประเด็นด้านข้อมูลรัฐกับ Palantir และการผลักดันอาวุธอัตโนมัติของสหรัฐฯ

ภาพรวมของจดหมายข่าวฉบับนี้ชี้ให้เห็นว่า AI กำลังแผ่เข้ามาในกระบวนการตัดสินใจสำคัญมากขึ้น ทั้งการจ้างงาน ตลาดการเงิน การพยากรณ์ และความมั่นคง แต่ยิ่งระบบเหล่านี้พึ่งพาข้อมูลมากเท่าไร ความเสี่ยงจากอคติ การบิดเบือน และการใช้ข้อมูลผิดวัตถุประสงค์ก็ยิ่งสูงขึ้นตามไปด้วย