Персонаж ИИ сталкивается с судебными исками из-за его чат-бота, якобы заставляя 14-летнего ребенка покончить жизнь самоубийством. Родители истца обвинили платформу в том, что он не в состоянии эффективно регулировать свой чат -бот «Дэни» ИИ, заставляя его сына стать зависимым от виртуального мира и в конечном итоге покончить с собой. ИИ персонаж опроверг, что его платформа защищена Первой поправкой и считает, что истец намерен закрыть платформу и содействовать соответствующему законодательству, что окажет негативное влияние на всю генеративную индустрию ИИ.
Персонаж AI, платформа, которая позволяет пользователям ролевой игрой с чат-ботами ИИ, недавно подал иск, поданный подростком-родителем в окружном суде Центрального округа США, штат Флорида. Родитель Меган Гарсия обвинил персонажа ИИ в его технологии, которая повредила ее 14-летнему сыну Сьюэллу Сетцеру III, заявив, что постепенно стала изолированной от реального мира и в конечном итоге привела к самоубийству, когда общалась с чат-ботом по имени «Дани».
После смерти Setzer, персонаж AI заявил, что запустит ряд функций безопасности для улучшения возможностей обнаружения и вмешательства в контенте чата, который нарушает условия обслуживания. Тем не менее, Гарсия надеется, что платформа сможет наложить более строгие ограничения, такие как запрет чат -ботов рассказывать истории и обмен личные анекдоты.
В своем заявлении о отказе юридическая команда персонажа AI утверждала, что платформа была защищена Первой поправкой, утверждая, что права его пользователей на свободу слова будут нарушены. Юридические документы утверждают, что, хотя этот случай включает в себя диалог, сгенерированный AI, это существенно не отличается от предыдущих случаев с участием медиа и технологических компаний.
Стоит отметить, что защита персонажа ИИ не включает в себя применимость раздела 230 Закона об этике связи, который обеспечивает защиту социальных сетей и других онлайн-платформ от ответственности за сторонний контент. Хотя разработчики законопроекта подразумевали, что положение не защищало контент, сгенерированный AI, этот вопрос неубедительный.
Адвокаты в персонаже AI также заявили, что реальным намерением Гарсии было «закрыть» платформу и содействовать законодательству по аналогичным технологиям. Если судебный процесс будет успешным, он будет иметь «пугающий эффект» на ИИ персонажа и всю новую генеративную индустрию ИИ.
В настоящее время персонаж AI сталкивается с несколькими судебными процессами, сосредоточенными на том, как несовершеннолетние взаимодействуют с контентом, генерируемым на их платформе, в том числе один случай, утверждающий, что на платформе показана «гипергенный содержание» для 9-летних, а другой обвинил его в том, что он вызывает 17-летний-17-летний-17-летний-17-летний старые пользователи причиняют себе вред.
Генеральный прокурор Техаса Кен Пэкстон также объявил о расследовании ИИ персонажа и 14 других технологических компаний, обвинив их в нарушении законов штата для защиты конфиденциальности и безопасности детей в Интернете. ИИ персонаж является частью быстро растущей индустрии приложений для компаньонов ИИ, и последствия психического здоровья в этой области не были полностью изучены.
Несмотря на различные проблемы, ИИ персонаж постоянно вводит новые инструменты безопасности и предпринимает шаги для защиты несовершеннолетних пользователей, таких как запуск отдельных моделей искусственного интеллекта подростка и ограничения на конфиденциальное контент.
Окончательный результат этого случая окажет глубокое влияние на будущее развитие индустрии генеративного искусственного интеллекта, а также подчеркнет неотложную потребность в этике технологии ИИ и надзоре за безопасностью. Все стороны должны работать вместе, чтобы найти баланс между технологическим прогрессом и социальной ответственностью.