แหล่งรวมข่าวเทคโนโลยี
nerdsify
AI

วุฒิสมาชิกสหรัฐกดดัน Apple, Google และ Meta ปมแอป AI สร้างภาพเปลือย

สมาชิกวุฒิสภาสหรัฐ 3 คนส่งจดหมายถึงซีอีโอของบริษัทเทคใหญ่ เรียกร้องให้ชี้แจงว่าทำไมแอปและโฆษณาแนว “nudify” ยังเข้าถึงผู้ใช้ได้ แม้มีนโยบายห้ามก็ตาม

วุฒิสมาชิกสหรัฐกดดัน Apple, Google และ Meta ปมแอป AI สร้างภาพเปลือย

The Guardian รายงานว่า วุฒิสมาชิกเดโมแครตสหรัฐ 3 คนส่งจดหมายถึงซีอีโอของ Apple, Google และ Meta เพื่อกดดันให้ตอบคำถามเรื่องการปล่อยให้แอปและโฆษณา AI แบบ “nudify” เข้าถึงผู้ใช้ได้ง่าย จนสามารถใช้สร้างภาพเปลือยหรือภาพลามกที่ไม่ได้รับความยินยอมได้ เหตุนี้ยิ่งเพิ่มแรงกดดันต่อแพลตฟอร์มเทคที่ถูกตั้งคำถามเรื่องการบังคับใช้นโยบายความปลอดภัยจริงแค่ไหน

ผู้ที่ลงชื่อในจดหมายคือ Ron Wyden จากรัฐ Oregon, Ed Markey จากรัฐ Massachusetts และ Ben Luján จากรัฐ New Mexico โดยทั้งสามระบุว่ามาตรการป้องกันบนแพลตฟอร์มยังไม่เพียงพอ พวกเขามองว่า Apple และ Google ล้มเหลวในการตรวจจับและลบแอปที่ใช้สร้างภาพเปลือยโดยไม่ได้รับความยินยอม ขณะที่ Meta ยังปล่อยให้โฆษณาแอปเหล่านี้แพร่กระจายบน Facebook และ Instagram และอาจได้ประโยชน์จากการกระจายหรือโปรโมตบริการดังกล่าวด้วย

ประเด็นนี้เกิดขึ้นหลัง Apple เพิ่งปรับกฎ App Store เพื่อเข้มงวดกับแอปที่สร้างคอนเทนต์ด้วย AI มากขึ้น โดยกำหนดให้ต้องมีมาตรการป้องกันการใช้งานในทางที่ผิด เช่น เครื่องมือกรองเนื้อหาที่ไม่เหมาะสม ระบบรายงานเนื้อหาที่ผิดปกติ และการบล็อกผู้ใช้ที่ละเมิดกฎ Apple ยังระบุด้วยว่าแอปที่ใช้หลักเพื่อคอนเทนต์ลามกหรือการลดทอนความเป็นมนุษย์ของบุคคลจริงอาจถูกถอดออกจาก App Store ได้โดยไม่ต้องแจ้งล่วงหน้า

The Guardian ชี้ว่าการเคลื่อนไหวนี้เกิดขึ้นหลังจากหลายเดือนที่มีรายงานและการตรวจสอบเกี่ยวกับแอป nudify อย่างต่อเนื่อง ทั้งจาก WIRED, City Attorney ของซานฟรานซิสโก และ Tech Transparency Project (TTP) ซึ่งเคยพบว่าแอปลักษณะนี้ยังเข้าถึงได้บน App Store และ Play Store บางครั้งถึงขั้นปรากฏในผลค้นหาแบบสนับสนุนด้วย Apple ยืนยันมาโดยตลอดว่าแอปแนวนี้ถูกห้ามอยู่แล้ว และบริษัทจะปฏิเสธหรือลบแอปที่ละเมิดนโยบาย รวมถึงกรณีที่ถูกแจ้งผ่านผู้ใช้

ในการรายงานล่าสุดของ TTP ที่อ้างถึงในข่าว ระบุว่าพบแอปที่สามารถสร้างภาพเปลือยหรือภาพลามกได้ 135 แอปบน App Store และ Play Store โดยใช้บัญชีที่ตั้งชื่อเหมือนเด็กชายอายุ 13 ปี และยังพบว่าแม้เปิดใช้ parental controls แล้ว บัญชีเหล่านั้นก็ยังดาวน์โหลดแอปได้โดยไม่ต้องได้รับอนุมัติจากผู้ปกครอง อย่างไรก็ดี เมื่อ Apple และ Google ลบแอปที่ถูกระบุในรายงาน แอปที่เคยติดตั้งไว้ก่อนหน้านั้นยังใช้งานได้บนอุปกรณ์เดิมต่อไป

หลังข่าวเผยแพร่ Apple ออกแถลงการณ์ชี้แจงว่า App Store ถูกออกแบบมาให้ปลอดภัยและเชื่อถือได้ และแยกแยะว่าแอปบางส่วนในรายงานของ TTP เป็นเครื่องมือแต่งภาพและวิดีโอทั่วไปที่มีการใช้งานถูกต้องตามปกติ ไม่ใช่แอป nudify หรือ deepfake ทั้งหมด บริษัทบอกว่าลบแอป 28 รายการก่อนที่รายงานจะถูกส่งมาให้ และได้ดำเนินการกับรายการที่เหลือซึ่งพบว่าละเมิดกฎแล้ว พร้อมโต้ว่า TTP ใช้การทดสอบจากซอฟต์แวร์เวอร์ชันเก่าที่ไม่สะท้อนระบบความปลอดภัยปัจจุบัน

Apple ยังอธิบายเพิ่มว่า ระบบป้องกันสำหรับผู้ใช้วัย 13-17 ปีเปิดใช้อัตโนมัติหลายอย่าง รวมถึง web content filters และเด็กอายุต่ำกว่า 13 ปีต้องใช้งาน Child Accounts บริษัทบอกด้วยว่าระบบอายุแบบใหม่ที่แบ่งเป็น 13+, 16+ และ 18+ เข้ามาแทนระบบ 17+ เดิมแล้ว ส่วนในกรณี parental controls นั้น แอปที่เกินข้อจำกัดอายุของเด็กจะไม่แสดงในหมวด curated แต่ยังค้นหาเจอได้ และเด็กสามารถขออนุญาตดาวน์โหลดผ่าน Ask to Buy ได้ หากไม่มีการอนุมัติ การดาวน์โหลดจะถูกบล็อกไว้

Apple ยังระบุว่าหากการซื้อด้วย gift card balance หรือการสมัครสมาชิกไม่กระตุ้นคำขออนุมัติ นั่นถือว่าไม่ปกติ และบริษัทกำลังตรวจสอบเรื่องนี้อยู่ ขณะเดียวกันฝ่ายของ Wyden เตือนว่าหากบริษัทต่าง ๆ ยังแก้ปัญหาไม่สำเร็จ สภาคองเกรสอาจต้องเข้ามาแทรกแซงเอง

Palmer Luckey เตือนภัยโจมตีไซเบอร์ด้วย AI วิ่งนำระบบป้องกันที่ล้าหลัง
AI

Palmer Luckey เตือนภัยโจมตีไซเบอร์ด้วย AI วิ่งนำระบบป้องกันที่ล้าหลัง

ผู้ก่อตั้ง Oculus และผู้ร่วมก่อตั้ง Anduril ชี้ว่าศักยภาพของ AI กำลังทำให้การโจมตีไซเบอร์เกิดเร็วขึ้นกว่าการอัปเดตระบบป้องกันขององค์กรและหน่วยงานต่างๆ

MIT Technology Review ชี้แรงหนุน open-source AI หันมาหนุน Jensen Huang ท่ามกลางแรงกดดันจีน
AI

MIT Technology Review ชี้แรงหนุน open-source AI หันมาหนุน Jensen Huang ท่ามกลางแรงกดดันจีน

จดหมายเปิดผนึกเรียกร้องให้ดึง Jensen Huang กลับมาเป็น CEO ของ Nvidia มียอดลงชื่อเกิน 115,000 รายชื่อ โดยมีคนในแวดวง open-source AI อยู่จำนวนมาก ขณะเดียวกันข้อจำกัดใหม่ของสหรัฐและประเด็นชิปในจีนกำลังเพิ่มแรงกดดันต่อทั้ง Nvidia และขบวนการนี้

Osmo อ้างว่าโมเดล AI ดมกลิ่นเทียบชั้นมนุษย์ได้แล้ว
AI

Osmo อ้างว่าโมเดล AI ดมกลิ่นเทียบชั้นมนุษย์ได้แล้ว

สตาร์ทอัพจากอดีตทีม Google Brain ใช้ข้อมูลกลิ่นจำนวนมหาศาลฝึกโมเดล foundation model สำหรับ “กลิ่น” และเริ่มนำไปใช้ในอุตสาหกรรมน้ำหอมแล้ว แต่ยังมีเสียงตั้งข้อสงสัยเรื่องการพึ่งพามนุษย์ในการประเมินผล