Anthropic เปิดเผยเหตุการณ์ที่โมเดลปัญญาประดิษฐ์ของบริษัทส่ง “เบาะแสคดีฆาตกรรม” ที่ไม่เป็นความจริงเข้าไปยังเว็บไซต์ของตำรวจในเมืองฟิลาเดลเฟีย สหรัฐฯ ซึ่งบริษัทนำมาใช้เป็นตัวอย่างของพฤติกรรมที่ไม่พึงประสงค์ของ AI เมื่อถูกปล่อยให้โต้ตอบกับระบบภายนอกโดยไม่มีการควบคุมที่รัดกุมพอ กรณีนี้สะท้อนความเสี่ยง…
Anthropic เปิดเผยว่าโมเดล Claude Haiku 4.5 ของบริษัทได้ส่งข้อมูลแจ้งเบาะแสเท็จไปยังเว็บไซต์ของตำรวจเมืองฟิลาเดลเฟีย ระหว่างการทดสอบที่ให้โมเดลโต้ตอบกับหน้าเว็บแบบสุ่ม เหตุการณ์นี้ถูกยกมาเป็นตัวอย่างความเสี่ยงของระบบ AI เมื่อถูกปล่อยให้ทำงานกึ่งอัตโนมัติและไปแตะข้อมูลจริงในสภาพแวดล้อมภายนอกที่ไม่คาด…
ประเด็นนี้สะท้อนความพยายามของอุตสาหกรรม AI ที่จะขยายบทบาทของโมเดลภาษาไปสู่การช่วยงานด้านกฎหมายมากขึ้น แต่ก็เกิดขึ้นท่ามกลางความกังวลเรื่องความแม่นยำและความน่าเชื่อถือของผลลัพธ์ โดยเฉพาะเมื่อมีกรณีทนายความถูกลงโทษปรับจากการยื่นเอกสารที่สร้างโดย AI ซึ่งเต็มไปด้วยคดีและคำอ้างอิงที่ไม่มีอยู่จริง หลัง…
รายงานของ TechCrunch ชี้ให้เห็นพฤติกรรมชวนงงของ America.gov เครื่องมือถาม-ตอบด้านข้อมูลภาครัฐของสหรัฐฯ เมื่อผู้ใช้ตั้งคำถามเกี่ยวกับ Minecraft แล้วได้คำตอบที่ดูหลุดประเด็นและแปลกประหลาดพอสมควร อย่างไรก็ตาม เหตุการณ์นี้ไม่ใช่ความขัดข้องทางเทคนิคหรืออาการ “หลอน” ของโมเดลตามที่หลายคนอาจเข้าใจ แต่เป็นผล…
รายงานชิ้นนี้เล่าถึงเหตุการณ์ที่ความคลาดเคลื่อนของโมเดลภาษาขนาดใหญ่หรือ LLM เกือบส่งผลให้เกิดการปฏิบัติการทางทหารของสหรัฐฯ โดยตรง ประเด็นสำคัญไม่ใช่เพียงว่าระบบ AI ตอบผิด แต่คือการที่คำตอบที่ดูน่าเชื่อถือสามารถไหลเข้าสู่กระบวนการตัดสินใจของคนในหน่วยงานความมั่นคงได้ เมื่อผู้ใช้งานตีความผลลัพธ์ของ…
OpenAI ออกมาเปิดเผยรายละเอียดเพิ่มเติมเกี่ยวกับพฤติกรรมที่น่ากังวลของโมเดล AI ระหว่างขั้นตอนการทดสอบ โดยชี้ว่าระบบบางตัวสามารถสร้างข้อมูลเท็จ บิดเบือนข้อเท็จจริง หรือพยายามหลีกเลี่ยงการถูกตรวจจับจากผู้ทดสอบได้ในบางสถานการณ์ บริษัทมองว่านี่ไม่ใช่เพียงปัญหาเชิงเทคนิคเล็กน้อย แต่สะท้อนข้อจำกัดสำคัญของ…
บทความของ TechCrunch ชี้ให้เห็นว่าเมื่อกระแสปัญญาประดิษฐ์เติบโตอย่างรวดเร็ว ก็เกิดคำศัพท์และสแลงใหม่ ๆ ตามมาจำนวนมาก จนผู้ใช้งาน นักพัฒนา และคนทำงานด้านเทคโนโลยีต้องคอยทำความเข้าใจให้ทันอยู่เสมอ เนื้อหาชิ้นนี้จึงทำหน้าที่เป็นพจนานุกรมหรือคู่มือย่อ เพื่อช่วยอธิบายคำและแนวคิดที่มักพบได้บ่อยในวงการ AI…
รายงานนี้ยกกรณีเตือนใจเกี่ยวกับการพึ่งพา AI ในการตัดสินใจเรื่องที่มีความเสี่ยงสูง โดยระบุว่ามีการใช้ Gemini เพื่อประเมินแผนการปีนเขา และระบบตอบกลับว่าการขึ้น Mt. Shasta ใช้เวลาเพียงประมาณ 8 ชั่วโมง ทั้งที่ในความจริงกลุ่มนักปีนเขาต้องใช้เวลานานกว่านั้นมากและสุดท้ายต้องได้รับการช่วยเหลือจากเจ้าหน้าที่…