В OpenAI ведется бурная дискуссия по поводу применения технологии водяных знаков ChatGPT. Разработанная ею технология текстовых водяных знаков AI предназначена для борьбы с академическим плагиатом, однако последовали также разногласия и проблемы в применении технологии. Говорят, что технология, которая корректирует слова и фразы для создания обнаруживаемых шаблонов, точна на 99,9% и устойчива к простому перефразированию. Тем не менее, OpenAI также признал, что сложное переписывание может легко обойти водяные знаки и что водяные знаки могут беспокоить некоторых пользователей, особенно тех, кто не является носителем языка, тем самым влияя на пользовательский опыт и использование.
Недавно OpenAI был втянут во внутренние дискуссии по поводу технологии водяных знаков. По данным Wall Street Journal, компания уже разработала технологию нанесения водяных знаков для маркировки текста, генерируемого ChatGPT, а также подготовила инструмент обнаружения. Но внутренние мнения относительно того, стоит ли выводить эту технологию на рынок, разделились.
С определенной точки зрения внедрение технологии водяных знаков кажется ответственным шагом. Эта технология создает обнаруживаемый шаблон, корректируя слова и фразы, предсказанные моделью. Хотя это звучит немного сложно, его цель ясна — помочь учителям предотвратить плагиат учащихся в заданиях, созданных с помощью ИИ. В отчете говорится, что этот водяной знак не влияет на качество текста чат-бота. Более того, в ходе опроса OpenAI обнаружила, что во всем мире число людей, поддерживающих инструменты обнаружения ИИ, превышает численность противников в четыре раза.
Однако реализовать технологию водяных знаков не так просто. Обновление блога OpenAI подтвердило, что компания разработала технологию нанесения водяных знаков, и заявило, что этот метод очень точен, а его эффективность «99,9%». Более того, этот вид водяного знака имеет определенную устойчивость к «подделке», например к простому переписыванию. Однако в OpenAI также отметили, что этот водяной знак можно легко обойти, переписав его с другими моделями, что их беспокоит.
Кроме того, OpenAI считает, что водяные знаки могут вызвать у некоторых пользователей чувство стигматизации, особенно у тех, кто не является носителем языка. Таким образом, хотя некоторые сотрудники считают, что водяные знаки эффективны, опрос показывает, что почти 30% пользователей ChatGPT заявили, что они смогут использовать меньше, если будут внедрены водяные знаки. В результате некоторые сотрудники предложили изучить «относительно менее спорные» методы, хотя их эффективность пока не доказана.
В сегодняшнем обновлении блога OpenAI упомянула, что они изучают способы внедрения метаданных на «ранних стадиях», и заявила, что еще слишком рано говорить, насколько эффективным это будет. Однако они отмечают, что, поскольку эти метаданные имеют криптографическую подпись, можно избежать ложных срабатываний.
Основные моменты:
✅ Внутри OpenAI есть разногласия по поводу запуска технологии водяных знаков, и будет ли она выпущена, пока обсуждается.
? Опросы показывают, что большинство людей во всем мире поддерживают инструменты обнаружения искусственного интеллекта, но пользователи обеспокоены тем, что водяные знаки повлияют на их использование.
? OpenAI рассматривает возможность внедрения метаданных, пытаясь найти баланс между технологиями и пользовательским опытом.
Осторожное отношение OpenAI к технологии водяных знаков отражает ее усилия по поиску баланса между технологическим развитием и пользовательским опытом. В будущем важным вопросом в сфере искусственного интеллекта станет то, как эффективно решать проблемы идентификации контента, созданного ИИ, и защиты конфиденциальности пользователей.