เมื่อเร็ว ๆ นี้งานวิจัยใหม่บนแพลตฟอร์ม X (เดิมคือ Twitter) ได้รับความสนใจ นักวิจัยจาก Bochum, Gesis Leibniz Institute และ Cispa Helmholtz Center วิเคราะห์เกือบ 15 ล้าน X บัญชีเพื่อสำรวจลักษณะและผลกระทบที่อาจเกิดขึ้นจากบัญชี Avatar ที่สร้างขึ้นโดย AI ผลการวิจัยแสดงให้เห็นว่าสัดส่วนของบัญชีที่ใช้ AI เพื่อสร้างอวตารนั้นต่ำมากและบัญชีเหล่านี้แสดงรูปแบบพฤติกรรมที่ไม่ซ้ำกันซึ่งทำให้เกิดความกังวลเกี่ยวกับการแพร่กระจายของข้อมูลเท็จ
การศึกษาเมื่อเร็ว ๆ นี้ดำเนินการโดย Bochum, Gesis Leibniz Institute และ Cispa Helmholtz Center เมื่อเร็ว ๆ นี้เปิดเผยว่าบัญชี X (เดิมคือ Twitter) ที่ใช้ AI เพื่อสร้างบัญชี Avatars เพียง 0.052% ของบัญชีทั้งหมด นักวิจัยวิเคราะห์เกือบ 15 ล้านบัญชีและพบว่า 7723 ของพวกเขาใช้อวตารที่สร้างขึ้นด้วย AI
หมายเหตุแหล่งที่มาของภาพ: ภาพถูกสร้างขึ้นโดย AI และผู้ให้บริการที่ได้รับอนุญาตภาพ Midjourney
บัญชีเหล่านี้แสดงลักษณะที่ชัดเจน: ผู้ติดตามน้อยลงมีบัญชีไม่กี่บัญชีที่ตามมาและมากกว่าครึ่งถูกสร้างขึ้นในปี 2023 และบางบัญชีก็ถูกสร้างขึ้นในแบตช์ภายในไม่กี่ชั่วโมง สิ่งนี้แสดงให้เห็นอย่างชัดเจนว่าบัญชีเหล่านี้ไม่ใช่ผู้ใช้จริงระบุว่า Jonas Ricker ผู้เขียนหลักของการศึกษา หลังจากการสังเกตเก้าเดือนแพลตฟอร์ม X ได้ปิดมากกว่าครึ่งหนึ่งของบัญชีเหล่านี้
ในระหว่างการวิเคราะห์เนื้อหาด้วยตนเองของ 1,000 บัญชีโดยใช้ AI Avatars นักวิจัยพบว่าเนื้อหาเนื้อหาของบัญชีเหล่านี้มุ่งเน้นไปที่แง่มุมทางการเมืองโดยเฉพาะอย่างยิ่งปัญหาที่เกี่ยวข้องกับทรัมป์วัคซีน COVID-19 และสงครามยูเครน นอกจากนี้ลอตเตอรีและหัวข้อทางการเงินเช่น cryptocurrencies ก็ปรากฏขึ้นบ่อยครั้ง นักวิจัยคาดการณ์ว่าบัญชีเหล่านี้อาจถูกสร้างขึ้นโดยเฉพาะเพื่อเผยแพร่ข้อมูลเท็จและการโฆษณาชวนเชื่อทางการเมืองเนื่องจากมีการสร้างบัญชีจำนวนมากและข้อมูลเมตาเดียวกันแนะนำว่าพวกเขาอาจเป็นเครือข่ายที่จัดขึ้น
แม้ว่าการศึกษาครั้งนี้ไม่ได้สำรวจการแพร่กระจายของบัญชีเหล่านี้โดยใช้ AI Avatars แต่ผู้ติดตามน้อยลงโดยเฉลี่ยและผู้ติดตามน้อยลงบ่งบอกถึงอิทธิพลที่ จำกัด สิ่งนี้สอดคล้องกับการศึกษาโดย OpenAI ซึ่งพบว่าบัญชีโซเชียลมีเดียที่แพร่กระจาย AI เพื่อสร้างข้อมูลการโฆษณาชวนเชื่อทางการเมืองที่ได้รับการตอบสนองน้อยมากดังนั้นบัญชีเหล่านี้จึงมีประสิทธิภาพน้อยกว่า ทีมวิจัยวางแผนที่จะขยายระบบอัตโนมัติของการรับรู้ Avatar ปลอมในการวิเคราะห์ในอนาคตและรวมโมเดลที่ได้รับการปรับปรุงเพื่อให้เข้าใจถึงผลกระทบของเทคโนโลยีนี้ได้ดีขึ้นบนแพลตฟอร์มโซเชียลมีเดีย
ประเด็นสำคัญ:
การวิจัยแสดงให้เห็นว่ามีเพียง 0.052% ของบัญชีบนแพลตฟอร์ม X ใช้ AI เพื่อสร้างอวตารและส่วนใหญ่เป็นบัญชีที่สร้างขึ้นใหม่
หัวข้อเนื้อหาบัญชีโดยใช้ AI Avatars ส่วนใหญ่เกี่ยวข้องกับการเมือง COVID-19 และหัวข้อทางการเงิน
การสร้างแบทช์ของบัญชีเหล่านี้และข้อมูลเมตาที่คล้ายกันบ่งบอกว่าข้อมูลเท็จอาจแพร่กระจายในเครือข่ายขององค์กร
การศึกษาครั้งนี้ให้การอ้างอิงที่สำคัญสำหรับการระบุและตอบสนองต่อข้อมูลเท็จเกี่ยวกับโซเชียลมีเดียและยังชี้ให้เห็นว่าเราจำเป็นต้องให้ความสนใจกับความเสี่ยงที่อาจเกิดขึ้นของเทคโนโลยี AI ในการเผยแพร่ข้อมูลและสำรวจกลยุทธ์การเผชิญปัญหาที่มีประสิทธิภาพมากขึ้น การวิจัยในอนาคตจะสำรวจกลไกการสื่อสารและผลกระทบของอวตารที่สร้างขึ้นจาก AI ในโซเชียลมีเดียเพื่อรักษาสุขภาพไซเบอร์สเปซให้ดีขึ้น