С ростом популярности контента, созданного искусственным интеллектом, важным вопросом стало эффективное определение его подлинности. Чтобы решить эту проблему, Tencent 17 января 2025 года запустила инструмент идентификации изображений, созданный искусственным интеллектом. Этот инструмент был разработан лабораторией Zhuque лаборатории безопасности Hunyuan Tencent. Он предназначен для того, чтобы помочь пользователям быстро и точно определить, созданы ли изображения искусственным интеллектом, повысить эффективность идентификации контента, а также поддерживать подлинность и безопасность сетевой среды. Этот инструмент использует усовершенствованную модель искусственного интеллекта для принятия решений путем анализа нескольких измерений, таких как текстура, семантика и невидимые особенности изображения, что эффективно повышает точность обнаружения.
17 января 2025 года Tencent запустила инструмент идентификации изображений, созданных искусственным интеллектом, призванный помочь людям определить, были ли изображения созданы искусственным интеллектом.
Система обнаружения изображений, созданных искусственным интеллектом, разработанная лабораторией Zhuque Lab группы безопасности Hunyuan компании Tencent, может определить, было ли изображение создано искусственным интеллектом, за несколько секунд, загрузив изображение и дождавшись проверки. Система в основном различает различия между реальными изображениями и изображениями, созданными искусственным интеллектом. Например, изображения, созданные искусственным интеллектом, иногда не соответствуют логике здравого смысла, и в них может быть контент, не соответствующий реальности, например, летающие щенки. Крылья и кошки с сигарами, созданные ИИ, должны быть «помечены водяными знаками», то есть добавлены откровенные. Или неявные знаки. Эти знаки могут быть видимы невооруженным глазом или могут быть неочевидны, и их необходимо читать с помощью инструментов обнаружения. Изображения, созданные искусственным интеллектом, также содержат некоторые скрытые функции, невидимые невооруженным глазом, например, после настройки цвета HSV. пространстве появятся блики, сгенерированные искусственным интеллектом, с плотно распределенными локальными текстурами и т. д.
Идентификация изображений, созданных ИИ, не может опираться исключительно на одну основу. Система обнаружения должна использовать модели ИИ для выявления различий в различных функциях, включая текстуру, семантику и невидимые особенности изображения. Suzaku Lab использовала 1,4 миллиона положительных и отрицательных образцов для обучения моделей, охватывая различные сценарии генерации контента. Окончательный уровень обнаружения тестов достиг более 95%, и он все еще оптимизируется и совершенствуется. Suzaku Lab также разработала систему обнаружения текста, которая реализует обнаружение текста путем обучения на массивных данных. Она также собирает большое количество положительных и отрицательных образцов для обучения и использует сравнительные методы для определения вероятности генерации статей ИИ для улучшения. обнаружение невидимых данных. В настоящее время система охватывает различные литературные жанры, такие как информационные бюллетени, официальные документы, романы и эссе, а в будущем будет расширена для поэзии и других жанров.
Первоначальное намерение лаборатории Сузаку при разработке инструментов обнаружения ИИ заключалось в оптимизации обучающего корпуса больших моделей Hunyuan. Однако с бурным ростом ИИ в научных кругах и промышленности возрос спрос на «использование ИИ для обнаружения поколений ИИ». Лаборатория разработала генерацию искусственного интеллекта. Существует два инструмента для обнаружения изображений и обнаружения текста, сгенерированного искусственным интеллектом, а также предоставляются опытные услуги.
В будущем также будут запущены инструменты обнаружения видео, созданных искусственным интеллектом, для дальнейшего улучшения возможностей обнаружения.
Адрес опыта:
https://matrix.tencent.com/ai-detect/ai_gen
https://matrix.tencent.com/ai-detect
Запуск инструмента идентификации изображений, созданного с помощью искусственного интеллекта, Tencent знаменует собой важный прогресс в борьбе с ложной информацией в контенте, созданном с помощью искусственного интеллекта. Я считаю, что в будущем, когда технологии продолжат совершенствоваться, такие инструменты будут лучше служить обществу и поддерживать здоровое развитие сетевой экосистемы.