รายงานตัวแก้ไข Downcodes: การศึกษาล่าสุดเปิดเผยความลับที่น่าประหลาดใจของบัญชีอวาตาร์ที่สร้างโดย AI บนแพลตฟอร์ม X ทีมวิจัยชาวเยอรมันวิเคราะห์บัญชี X เกือบ 15 ล้านบัญชี และพบว่ามีบัญชีจำนวนน้อยมาก (0.052%) ที่ใช้อวตารที่สร้างโดย AI บัญชีเหล่านี้แสดงคุณลักษณะเฉพาะ เช่น ผู้ติดตามและผู้ติดตามจำนวนไม่มาก บัญชีส่วนใหญ่ถูกสร้างขึ้นในปี 2023 และยังถูกสร้างขึ้นเป็นกลุ่มๆ อีกด้วย ซึ่งบ่งชี้ว่าบัญชีเหล่านี้น่าจะเป็นบัญชีปลอมที่ใช้ในการเผยแพร่ข้อมูลเฉพาะ
หมายเหตุแหล่งที่มาของรูปภาพ: รูปภาพนี้สร้างขึ้นโดย AI และผู้ให้บริการอนุญาตรูปภาพ Midjourney
บัญชีเหล่านี้แสดงลักษณะที่ชัดเจน: พวกเขามีผู้ติดตามน้อยลงและติดตามบัญชีน้อยลง และมากกว่าครึ่งถูกสร้างขึ้นในปี 2023 และบางบัญชีก็ถูกสร้างขึ้นเป็นกลุ่มภายในไม่กี่ชั่วโมงด้วยซ้ำ Jonas Ricker ผู้เขียนหลักของการศึกษาชี้ให้เห็นว่าสิ่งนี้แสดงให้เห็นอย่างชัดเจนว่าบัญชีเหล่านี้ไม่ใช่ผู้ใช้จริง หลังจากการสังเกตมาเก้าเดือน แพลตฟอร์ม X ได้ปิดบัญชีเหล่านี้มากกว่าครึ่งหนึ่ง
ในการวิเคราะห์เนื้อหาด้วยตนเองของบัญชี 1,000 บัญชีที่ใช้อวาตาร์ AI นักวิจัยพบว่าธีมเนื้อหาของบัญชีเหล่านี้เน้นไปที่การเมืองเป็นหลัก โดยเฉพาะประเด็นที่เกี่ยวข้องกับทรัมป์ วัคซีนป้องกันโควิด-19 และสงครามในยูเครน นอกจากนี้ หัวข้อเกี่ยวกับลอตเตอรีและการเงิน เช่น สกุลเงินดิจิทัล ก็เกิดขึ้นบ่อยครั้ง นักวิจัยคาดการณ์ว่าบัญชีเหล่านี้อาจถูกสร้างขึ้นโดยเฉพาะเพื่อเผยแพร่ข้อมูลที่บิดเบือนและการโฆษณาชวนเชื่อทางการเมือง เนื่องจากบัญชีถูกสร้างขึ้นเป็นจำนวนมากและแบ่งปันข้อมูลเมตาเดียวกัน ซึ่งบ่งบอกว่าบัญชีเหล่านี้อาจเป็นส่วนหนึ่งของเครือข่ายที่จัดตั้งขึ้น
แม้ว่าการศึกษานี้ไม่ได้สำรวจการแพร่กระจายของบัญชีเหล่านี้โดยใช้อวาตาร์ AI แต่จำนวนผู้ติดตามและบัญชีโดยเฉลี่ยแสดงให้เห็นว่าอิทธิพลของพวกเขามีจำกัด ซึ่งสอดคล้องกับการศึกษาของ OpenAI ซึ่งพบว่าบัญชีโซเชียลมีเดียที่เผยแพร่โฆษณาชวนเชื่อทางการเมืองที่สร้างโดย AI ได้รับการตอบรับเพียงเล็กน้อย ทำให้บัญชีเหล่านี้มีประสิทธิภาพน้อยลง ทีมวิจัยวางแผนที่จะขยายระบบอัตโนมัติของการจดจำอวตารปลอมของ AI ในการวิเคราะห์ในอนาคต และรวมโมเดลที่อัปเดตเพื่อให้เข้าใจถึงผลกระทบของเทคโนโลยีนี้บนแพลตฟอร์มโซเชียลมีเดียได้ดียิ่งขึ้น
งานวิจัยนี้ให้ข้อมูลเชิงลึกอันมีค่าเกี่ยวกับความเข้าใจของเราเกี่ยวกับการประยุกต์ใช้อวตารที่สร้างโดย AI บนแพลตฟอร์มโซเชียลมีเดีย และยังเตือนให้เราระวังการใช้เทคโนโลยี AI เพื่อแพร่กระจายข้อมูลที่เป็นอันตราย ในอนาคต เทคโนโลยีการจดจำ AI ที่มีประสิทธิภาพมากขึ้นจะกลายเป็นวิธีการสำคัญในการรักษาความปลอดภัยของสภาพแวดล้อมเครือข่าย บรรณาธิการของ Downcodes จะยังคงให้ความสำคัญกับการพัฒนาที่เกี่ยวข้องและนำเสนอข้อมูลทางเทคโนโลยีเพิ่มเติมให้กับคุณ