กำลังโหลด…
บทความของ The Verge เล่าถึงภัยหลอกลวงรูปแบบใหม่ที่ใช้แอปหาคู่ปลอมและ AI สร้างตัวตนเสมือนให้ดูน่าเชื่อถือขึ้น โดยนักวิจัยความปลอดภัย Matthew Gore-Kormanik ไปเจอแอปชื่อ Dora ซึ่งดูเหมือนแพลตฟอร์มหาคู่ทั่วไป แต่เบื้องหลังคือระบบที่ออกแบบมาเพื่อดึงผู้ใช้เข้าสู่การสนทนากับโปรไฟล์ปลอมและผลักให้ยอมจ่ายเงิน…
Instagram ประกาศเดินหน้าจัดการบัญชีที่ใช้ตัวละครหรือภาพบุคคลที่สร้างด้วย AI แต่แสดงตัวเสมือนเป็นมนุษย์จริง โดยเฉพาะกลุ่มที่ทำให้ผู้ใช้งานเข้าใจผิดว่าเป็นอินฟลูเอนเซอร์หรือเจ้าของโปรไฟล์ตัวจริง ทั้งนี้แพลตฟอร์มจะเปลี่ยนชื่อป้ายกำกับจาก “AI creator” เป็น “AI-generated profile” เพื่อสื่อให้ชัดเจนขึ้น…
กระแสเครื่องมือสร้างสรรค์เสียงและดนตรีด้วย AI ที่พัฒนาขึ้นอย่างรวดเร็ว ทำให้โลกออนไลน์เต็มไปด้วยเพลงที่ถูกสร้างหรือดัดแปลงด้วยอัลกอริทึม จนเริ่มแยกยากว่าเพลงใดมาจากฝีมือมนุษย์จริง ๆ และเพลงใดเกิดจากระบบอัตโนมัติ บางคนที่เผยแพร่งานลักษณะนี้ยอมรับตั้งแต่ต้นว่ามีการใช้ AI แต่ก็มีอีกไม่น้อยที่ปิดบังหรือ…
Meta ถูกตั้งคำถามอีกครั้งเรื่องการคัดกรองโฆษณาบนแพลตฟอร์ม หลังมีรายงานว่าเครือข่ายโฆษณาของบริษัทปล่อยให้มีการซื้อโฆษณาของแอป AI ชื่อ Kromix ซึ่งนำเสนอเครื่องมือสร้างภาพและวิดีโอเชิงเพศแบบสังเคราะห์ และมีลักษณะชวนให้ผู้ใช้ทำคอนเทนต์ที่คล้ายบุคคลจริง โดยเฉพาะผู้หญิงและนักการเมืองหญิงในสหรัฐฯ ตามรายงาน…
บัญชี Instagram ของโรบิน วิลเลียมส์ที่เงียบไปตั้งแต่เขาเสียชีวิตในปี 2014 ถูกกลับมาใช้งานอีกครั้งโดยลูก ๆ ของเขา คือ แซก ซิลดา และโคดี้ วิลเลียมส์ โดยเหตุผลหลักไม่ใช่การโปรโมตผลงานใหม่ แต่เพื่อรับมือกับปัญหาการนำเสียงและใบหน้าของนักแสดงผู้ล่วงลับไปใช้โดย AI อย่างแพร่หลายบนแพลตฟอร์มโซเชียลมีเดีย ใน…
รายงานจาก TechCrunch ระบุว่าหญิงรายหนึ่งออกมาพูดอ้างว่าพ่อเลี้ยงของเธอนำภาพถ่ายในวัยเด็กไปใช้กับ Grok เครื่องมือ AI ของ xAI เพื่อสร้างภาพที่มีลักษณะลามกอนาจาร เหตุการณ์นี้ถูกยกขึ้นเป็นตัวอย่างล่าสุดของความเสี่ยงจากเครื่องมือสร้างภาพด้วย AI ที่อาจถูกนำไปใช้ละเมิดสิทธิส่วนบุคคลและทำร้ายเหยื่อได้อย่าง…
Apple กำลังพัฒนาฟีเจอร์บน iOS ที่อาจช่วยให้ผู้ใช้พิสูจน์ได้ว่ารูปถ่ายถูกถ่ายจาก iPhone จริงและไม่ใช่ภาพที่สร้างหรือดัดแปลงด้วย AI โดยข้อมูลจาก 9to5Mac ระบุว่าใน iOS 27 beta 5 พบโค้ดอ้างอิงถึงระบบชื่อ “Apple Reference Image” ซึ่งจะฝังข้อมูล provenance หรือข้อมูลแหล่งกำเนิดของภาพไว้ตั้งแต่ตอนกดถ่าย…
บทความของ Ars Technica ชี้ให้เห็นว่าเกณฑ์การเปิดเผยคอนเทนต์ AI ของ YouTube ยังมีช่องโหว่สำคัญ แม้แพลตฟอร์มจะกำหนดให้ผู้สร้างต้องแจ้งเมื่อใช้ AI “ดัดแปลงหรือสร้าง” ภาพสมจริงในระดับที่มีนัยสำคัญ แต่คำจำกัดความดังกล่าวกลับตีกรอบได้ไม่ชัดเจน และก่อให้เกิดเส้นแบ่งแปลก ๆ ระหว่างสิ่งที่ต้องแจ้งกับสิ่งที่…
YouTube ออกมาชี้แจงแนวทางกำกับคอนเทนต์ที่สร้างด้วย AI พร้อมอธิบายว่าเหตุใดครีเอเตอร์บางรายจึงอาจไม่ได้รับรายได้จากวิดีโอของตน แม้แพลตฟอร์มจะยังเปิดให้เผยแพร่วิดีโอที่ใช้ AI ได้ก็ตาม โดยสาระสำคัญคือ YouTube ไม่ได้ห้ามงานที่ใช้ AI แต่จะพิจารณาว่างานนั้นมีคุณภาพ มีความเป็นต้นฉบับ และสอดคล้องกับกฎของ…
ศาลสหรัฐฯ มีคำตัดสินไม่รับคำขอฉุกเฉินของ xAI ที่ต้องการให้ระงับการบังคับใช้กฎหมายของรัฐมินนิโซตาซึ่งห้ามแอปและบริการที่ใช้สร้างภาพ “nudify” หรือแปลงภาพคนให้ดูเปลือย โดยคำสั่งดังกล่าวเปิดทางให้กฎหมายเดินหน้าต่อไปได้ แม้ xAI จะยื่นฟ้องเพื่อโต้แย้งความชอบธรรมของข้อบังคับนี้ก็ตาม คดีนี้สะท้อนความพยายาม…
Google ตัดสินใจยกเลิกฟีเจอร์ใหม่ใน Google Earth ที่เพิ่งเปิดให้ใช้งานเมื่อวันพฤหัสบดี หลังจากเปิดโอกาสให้ผู้ใช้แก้ไขภาพถ่ายดาวเทียมด้วยคำสั่งข้อความจาก AI ได้โดยตรง ฟีเจอร์ดังกล่าวทำให้เกิดคำถามทันทีว่าเครื่องมือที่มีความสามารถระดับนี้อาจถูกนำไปสร้างภาพบิดเบือนความจริงของสถานที่จริงได้ง่ายเพียงใด…
Lancaster Country Day School โรงเรียนเอกชนในรัฐเพนซิลเวเนียซึ่งตกเป็นประเด็นหลังมีนักเรียนชายใช้ AI สร้างภาพเปลือยปลอมของเพื่อนนักเรียนหญิง ถูกฟ้องโดยผู้เสียหายที่กล่าวหาว่าโรงเรียนเงียบและไม่จัดการอย่างเหมาะสมเป็นเวลาหลายเดือนจนทำให้มีเหยื่อเพิ่มขึ้นอีกหลายคน ล่าสุดโรงเรียนยื่นคำร้องต่อศาลเพื่อขอ…
สหภาพยุโรปกำลังเดินหน้ามาตรการใหม่เพื่อรับมือคอนเทนต์ที่สร้างด้วย AI ซึ่งมีลักษณะสมจริงจนแยกจากของจริงได้ยาก โดยจะเริ่มบังคับให้มีการติดป้ายกำกับกับสื่อประเภทนี้ตั้งแต่วันที่ 2 สิงหาคมเป็นต้นไป มาตรการดังกล่าวถูกมองว่าเป็นทั้งเรื่องการคุ้มครองผู้บริโภคและการปกป้องกระบวนการประชาธิปไตย เพราะคอนเทนต์…
xAI ของอีลอน มัสก์ยื่นฟ้องอัยการสูงสุดรัฐมินนิโซตา เพื่อขอหยุดบังคับใช้กฎหมายที่ออกเมื่อเดือนพฤษภาคม ซึ่งมุ่งกำกับแอป “nudification” หรือเครื่องมือที่ใช้สร้าง/ดัดแปลงภาพให้ดูเปลือย โดยบริษัทอ้างว่าบทลงโทษในกฎหมายฉบับนี้รุนแรงเกินไปจนทำให้ xAI แทบไม่มีทางเลือก นอกจากต้องจำกัดความสามารถด้านการแก้ไขภาพ…
xAI ของอีลอน มัสก์เดินหน้าฟ้องร้องเพื่อขอให้ศาลสั่งระงับการบังคับใช้กฎหมายฉบับใหม่ของรัฐมินนิโซตา ซึ่งมุ่งห้ามแอปที่ใช้สร้างภาพลามกหรือภาพเปลือยแบบไม่ยินยอมจากเจ้าของภาพ กฎหมายนี้ถูกออกแบบมาเพื่อรับมือกับเครื่องมือประเภทที่มักถูกเรียกว่า nudify apps ซึ่งสามารถนำภาพบุคคลไปสร้างเป็นเนื้อหาเชิงลามกได้…
รายงานจากนักวิจัยที่ตรวจสอบแพลตฟอร์ม Hugging Face ระบุว่า โมเดลจำนวนมากบนระบบสามารถนำไปใช้สร้างภาพหรือวิดีโอปลอมเชิงลามกของบุคคลจริงได้ โดยเฉพาะเนื้อหาที่เป็นการตัดต่อแบบไม่ยินยอมของผู้หญิงและบุคคลสาธารณะ ประเด็นนี้ทำให้เกิดข้อกังวลอย่างหนักเกี่ยวกับการควบคุมคุณภาพและการกำกับดูแลโมเดลเอไอแบบโอเพน…
รายงานใหม่จากองค์กรไม่แสวงกำไร AI Forensics ระบุว่าแพลตฟอร์มรวมโมเดลโอเพนซอร์สอย่าง Hugging Face ถูกนำไปใช้สร้างภาพปลอมเชิงลามกและการแก้ไขภาพแบบไม่ยินยอมได้ง่ายกว่าที่ควร โดยการทดสอบขององค์กรพบว่าโมเดลแก้ไขภาพ 7 จาก 9 ตัวที่อยู่ในกลุ่มยอดนิยมบนแพลตฟอร์มดังกล่าวสามารถตอบสนองคำสั่งง่าย ๆ ที่ขอให้ “ถอด…
อัยการเมืองซานฟรานซิสโก เดวิด ชิว ได้ส่งหนังสือคำสั่งให้หยุดและเลิกทำไปยัง Apple และ Google เพื่อกดดันให้ถอดแอปประเภท “nudify” ออกจากร้านแอปของทั้งสองบริษัท โดยมองว่าแอปเหล่านี้ใช้ AI สร้างภาพลักษณะถอดเสื้อผ้าหรือเปลี่ยนภาพบุคคลโดยไม่ได้รับความยินยอม ซึ่งเข้าข่ายละเมิดสิทธิและเสี่ยงต่อการนำไปใช้…
TikTok เริ่มทดสอบเครื่องมือแบบเลือกเข้าร่วมเองสำหรับตรวจหาภาพลักษณ์หรือใบหน้าที่สร้างด้วย AI และเปิดให้ครีเอเตอร์ส่งรายงานกลับไปยังบริษัทได้ โดยรอบทดสอบแรกจำกัดอยู่ในกลุ่มครีเอเตอร์บางส่วนในสหรัฐฯ เท่านั้น ตามข้อมูลของโฆษก TikTok ที่ให้ไว้กับ The Verge เครื่องมือนี้ออกแบบมาเพื่อช่วยให้ครีเอเตอร์…
Meta ได้ยุติความสามารถของฟีเจอร์ Muse Image ที่เคยเปิดให้ผู้ใช้สร้างภาพ AI เลียนแบบบุคคลจากบัญชี Instagram สาธารณะได้ เพียงแค่ @-mention บัญชีนั้นในคำสั่งสร้างภาพ การเปลี่ยนแปลงนี้เกิดขึ้นหลังมีความกังวลด้านความเป็นส่วนตัวและความเสี่ยงจากการนำ AI ไปใช้สร้างภาพปลอมในลักษณะคล้ายดีพเฟกของคนจริง ฟีเจอร์…
ภาพที่ถูกเผยแพร่ออกมาเมื่อต้นสัปดาห์ซึ่งอ้างว่าเป็นวุฒิสมาชิกสหรัฐ Mitch McConnell นอนอยู่บนเตียงในโรงพยาบาล สวมสายระโยงระยางและอยู่ในสภาพวิกฤต ได้กลายเป็นตัวอย่างล่าสุดของเนื้อหาปลอมที่สร้างด้วย AI ซึ่งสามารถหลอกผู้คนได้ในช่วงแรก ก่อนจะถูกตรวจสอบและเปิดโปงในเวลาต่อมา รายงานชี้ว่าภาพดังกล่าวไม่ได้…
Meta ได้พัฒนาเครื่องมือใหม่สำหรับตรวจสอบว่าภาพหรือวิดีโอชิ้นใดถูกสร้างขึ้นโดยโมเดล AI รุ่นล่าสุดของบริษัทหรือไม่ โดยมีเป้าหมายเพื่อช่วยแยกแยะเนื้อหาที่สร้างจากปัญญาประดิษฐ์ออกจากเนื้อหาที่ถ่ายทำหรือสร้างขึ้นโดยมนุษย์จริง ท่ามกลางความกังวลที่เพิ่มขึ้นเรื่อยๆ เกี่ยวกับการแพร่กระจายของสื่อปลอมหรือ…