ด้วยการพัฒนาอย่างรวดเร็วของเทคโนโลยี AI ความถูกต้องของเนื้อหาที่สร้างขึ้นของ AI ได้กลายเป็นปัญหาสำคัญ การแพร่กระจายของข้อมูลเท็จก่อให้เกิดภัยคุกคามร้ายแรงต่อความมั่นคงทางสังคมและความไว้วางใจสาธารณะ เพื่อที่จะรับมือกับความท้าทายนี้และถอดรหัสข้อมูลเท็จที่สร้างขึ้นโดย AI ได้อย่างมีประสิทธิภาพ Tencent ได้เปิดตัวเครื่องมือตรวจจับเนื้อหา AI ใหม่ซึ่งมีจุดมุ่งหมายที่จะใช้เทคโนโลยี AI เพื่อระบุข้อความและภาพที่สร้างโดย AI เพื่อรักษาสุขภาพและความปลอดภัยของ สภาพแวดล้อมเครือข่าย
ด้วยการพัฒนาอย่างรวดเร็วของเทคโนโลยีปัญญาประดิษฐ์การประยุกต์ใช้ข้อความรูปภาพและวิดีโอที่สร้างขึ้นโดย AI ได้กลายเป็นผู้ใหญ่มากขึ้นในสาขาต่าง ๆ อย่างไรก็ตามด้วยการเกิดขึ้นของวิกฤตความไว้วางใจการแพร่กระจายของข้อมูลเท็จทำให้เกิดภัยคุกคามที่อาจเกิดขึ้นกับสังคม เพื่อรับมือกับความท้าทายนี้ Tencent เพิ่งเปิดตัวเครื่องมือตรวจจับเนื้อหา AI ใหม่ล่าสุดโดยมีเป้าหมายที่จะ "ปลอม AI" ผ่านเทคโนโลยี AI
เครื่องมือนี้ได้รับการพัฒนาโดย Suzaku Lab ของ Tencent ซึ่งแบ่งออกเป็นสองระบบ: AI สร้างการตรวจจับข้อความและการตรวจจับภาพ AI Tencent ชี้ให้เห็นอย่างเป็นทางการว่าแม้ว่าภาพที่สร้างโดย AI จะกลายเป็นจริงมากขึ้นเรื่อย ๆ แต่ก็ยังมีการยอมรับบางอย่าง ผ่านการตรวจสอบภาพอัพโหลดอย่างรวดเร็วผู้ใช้สามารถตรวจสอบได้ว่า AI สร้างภาพหรือไม่
ในแง่ของตรรกะการตรวจจับระบบส่วนใหญ่มีความแตกต่างโดยการจับความแตกต่างเล็กน้อยระหว่างภาพจริงและภาพการสร้าง AI ตัวอย่างเช่นรูปภาพที่สร้างโดย AI บางครั้งละเมิดตรรกะสามัญสำนึกหรืออาจต้องเพิ่มในบางกรณี นอกจากนี้ภาพ AI ที่สร้างขึ้นอาจมีเลเยอร์ที่ซ่อนอยู่เฉพาะ เพื่อให้แน่ใจว่ามีความแม่นยำในการตรวจจับ Tencent ใช้ตัวอย่างบวกและลบ 1.4 ล้านครั้งในการฝึกอบรมแบบจำลองซึ่งครอบคลุมฉากต่าง ๆ เช่นร่างกายมนุษย์ภูมิทัศน์ตัวละครสถานที่สำคัญในการเพิ่มประสิทธิภาพอย่างต่อเนื่อง
ในแง่ของการตรวจจับข้อความระบบตรวจจับของ Tencent ยังต้องอาศัยตัวอย่างเชิงบวกและเชิงลบจำนวนมากสำหรับการฝึกอบรมซึ่งสามารถครอบคลุมรูปแบบที่หลากหลายเช่นข่าวเอกสารนวนิยายและร้อยแก้ว โดยการเปรียบเทียบเนื้อหาที่ทำนายของข้อความและโมเดลขนาดใหญ่ระบบสามารถคาดเดาได้ว่าความน่าจะเป็นในการสร้าง AI ของข้อความสามารถอนุมานได้ซึ่งจะเป็นการปรับปรุงความสามารถในการตรวจจับของข้อมูลที่มองไม่เห็น ในอนาคต Tencent ยังวางแผนที่จะขยายระบบตรวจจับข้อความไปยังประเภทอื่น ๆ เช่นบทกวีเพื่อปรับปรุงความแม่นยำของการระบุตัวตนต่อไป
ด้วยการวัดที่เป็นนวัตกรรมนี้ Tencent หวังที่จะให้สภาพแวดล้อมเครือข่ายที่ปลอดภัยและน่าเชื่อถือมากขึ้นผู้ใช้จะต่อต้านการแพร่กระจายของข้อมูลเท็จและช่วยในการพัฒนาสังคมอย่างมีประสิทธิภาพ
เครื่องมือตรวจจับเนื้อหา AI ของ Tencent ด้วยความแม่นยำสูงและความสามารถในการเพิ่มประสิทธิภาพต่อไปให้วิธีการที่มีประสิทธิภาพในการรับมือกับ AI ในการสร้างข้อมูลเท็จมีส่วนช่วยในการสร้างพื้นที่เครือข่ายที่ชัดเจนยิ่งขึ้น และแอปพลิเคชัน