แหล่งรวมข่าวเทคโนโลยี
nerdsify
AI

QueryStory เปิดตัวแพลตฟอร์มช่วยตรวจความน่าเชื่อถือของคำตอบจาก AI

QueryStory เปิดตัวแพลตฟอร์มช่วยตรวจความน่าเชื่อถือของคำตอบจาก AI

QueryStory สตาร์ตอัปหน้าใหม่ที่เพิ่งพ้นช่วงปิดบังตัวตน ประกาศระดมทุนรอบ seed ได้ 6 ล้านดอลลาร์ พร้อมแนวทางสร้างเครื่องมือที่ผสานโมเดลภาษาขนาดใหญ่เข้ากับความเชี่ยวชาญด้านความปลอดภัยไซเบอร์ เพื่อทำให้การตั้งคำถามและการอ่านผลลัพธ์จาก AI มีความสอดคล้องและตรวจสอบได้มากขึ้น

แก่นของแนวคิดบริษัทคือการแก้ปัญหาความไม่น่าเชื่อถือของคำตอบจากระบบ AI ที่บางครั้งอาจฟังดูมั่นใจแต่ขาดบริบทหรือความต่อเนื่อง QueryStory ต้องการทำให้การสื่อสารกับ AI เป็นระเบียบขึ้น โดยช่วยจัดโครงสร้างคำถามและผลลัพธ์ให้เชื่อมโยงกันมากพอที่ผู้ใช้จะประเมินได้ว่าคำตอบนั้นสมเหตุสมผลเพียงใด

การนำความรู้ด้านไซเบอร์ซีเคียวริตีมาใช้สะท้อนว่าเป้าหมายของบริษัทไม่ได้อยู่แค่การทำให้แชตบอทตอบเก่งขึ้น แต่รวมถึงการเพิ่มชั้นของความน่าเชื่อถือและการตรวจสอบย้อนกลับในกระบวนการใช้งาน AI ด้วย แนวทางนี้สอดรับกับความกังวลที่เพิ่มขึ้นในวงการว่าระบบ generative AI สามารถสร้างข้อมูลผิดพลาดหรือบิดเบือนได้ แม้จะตอบออกมาอย่างลื่นไหล

เงินทุนรอบนี้น่าจะถูกใช้เพื่อพัฒนาผลิตภัณฑ์ ขยายทีม และผลักดันการนำไปใช้ในตลาดที่ต้องการความมั่นใจสูงต่อคุณภาพของข้อมูล เช่น งานด้านองค์กร ความปลอดภัย และการตัดสินใจที่อาศัยข้อมูลจำนวนมาก แม้บริษัทยังอยู่ในช่วงเริ่มต้น แต่แนวทางของ QueryStory ชี้ให้เห็นว่าตลาดเครื่องมือกำกับดูแลและตรวจสอบ AI กำลังมีพื้นที่เติบโตมากขึ้น

ภาพรวมแล้ว การเปิดตัวของ QueryStory เป็นอีกสัญญาณว่าอุตสาหกรรม AI กำลังก้าวจากการแข่งขันด้านความสามารถของโมเดล ไปสู่การแข่งขันด้านความไว้วางใจ ความโปร่งใส และการควบคุมผลลัพธ์ ซึ่งอาจเป็นปัจจัยสำคัญไม่แพ้ความฉลาดของโมเดลเอง

นิวยอร์กตั้งโปรแกรมทดสอบ AI ของรัฐเอง ใช้นักวิจัยอิสระตรวจสอบบริษัท
AI

นิวยอร์กตั้งโปรแกรมทดสอบ AI ของรัฐเอง ใช้นักวิจัยอิสระตรวจสอบบริษัท

โครงการใหม่นี้จะให้ศูนย์วิจัยของรัฐตรวจสอบระบบ AI จากข้อมูลที่บริษัทเปิดเผย แทนการเชื่อคำบอกเล่าของผู้พัฒนาเพียงอย่างเดียว

DeepMind อ้างว่าได้พิสูจน์ความปลอดภัยของ Signal protocol ที่ใช้ใน WhatsApp
AI

DeepMind อ้างว่าได้พิสูจน์ความปลอดภัยของ Signal protocol ที่ใช้ใน WhatsApp

งานวิจัยของ Google DeepMind ใช้ formal verification ตรวจสอบโปรโตคอลเข้ารหัสแบบ end-to-end ที่อยู่เบื้องหลัง Signal, WhatsApp และ Google Messages โดยผู้วิจัยย้ำว่านี่เป็นเพียงก้าวหนึ่ง ยังไม่ใช่การพิสูจน์ระบบทั้งหมด