В условиях быстрого развития технологий искусственного интеллекта идентификация подлинности контента, созданного искусственным интеллектом, стала важной проблемой. Распространение ложной информации представляет серьезную угрозу социальной стабильности и общественному доверию. Чтобы ответить на эту проблему и эффективно бороться с ложной информацией, генерируемой ИИ, Tencent запустила новый инструмент обнаружения контента, генерируемый ИИ, целью которого является использование технологии ИИ для идентификации текста и изображений, сгенерированных ИИ, а также поддержания здоровья и безопасности пользователей. онлайн-среда.
С быстрым развитием технологий искусственного интеллекта применение текста, изображений и видео, генерируемых ИИ, в различных областях становится все более зрелым. Однако это также сопровождается возникновением кризиса доверия, а распространение ложной информации представляет потенциальную угрозу обществу. Чтобы справиться с этой проблемой, Tencent недавно запустила новый инструмент обнаружения контента, созданный искусственным интеллектом, целью которого является «борьба с поддельным искусственным интеллектом» с помощью технологии искусственного интеллекта.
Этот инструмент был разработан лабораторией Zhuque Lab компании Tencent и разделен на две системы: обнаружение текста, генерируемое ИИ, и обнаружение изображений, генерируемое ИИ. Представители Tencent отметили, что, хотя изображения, созданные с помощью ИИ, становятся все более реалистичными, определенная степень узнаваемости все же сохраняется. Благодаря быстрой проверке загруженных изображений за несколько секунд пользователи могут определить, было ли изображение создано искусственным интеллектом.
С точки зрения логики обнаружения, система в основном различает тонкие различия между реальными изображениями и изображениями, сгенерированными ИИ. Например, изображения, созданные с помощью ИИ, иногда противоречат логике здравого смысла или в некоторых случаях могут потребовать добавления водяного знака. Кроме того, изображения, созданные с помощью ИИ, также могут содержать определенные функции скрытого слоя. Чтобы обеспечить точность обнаружения, Tencent использовала 1,4 миллиона положительных и отрицательных образцов при обучении модели, охватывая различные сцены, такие как человеческие тела, пейзажи, люди, ориентиры и т. д. Конечный показатель обнаружения теста достиг более 95%, и система также находится в непрерывной оптимизации.
Что касается обнаружения текста, система обнаружения Tencent также опирается на большое количество положительных и отрицательных образцов для обучения и может охватывать различные литературные стили, такие как новости, официальные документы, романы и эссе. Сравнивая обнаруженный текст с предсказанным содержимым большой модели, система может сделать вывод о вероятности генерации текста ИИ, тем самым улучшая возможности обнаружения невидимых данных. В будущем Tencent также планирует расширить систему обнаружения текста на другие жанры, такие как поэзия, чтобы еще больше повысить точность распознавания.
Благодаря этому инновационному шагу Tencent надеется предоставить пользователям более безопасную и надежную онлайн-среду, эффективно противостоять распространению ложной информации и внести вклад в здоровое развитие общества.
Инструмент Tencent для обнаружения контента, созданный искусственным интеллектом, с его высокой точностью и возможностями непрерывной оптимизации обеспечивает эффективные средства борьбы с ложной информацией, создаваемой искусственным интеллектом, и способствует построению более чистого киберпространства. Стоит с нетерпением ждать его дальнейшего развития и применения.