«Он яндере и влюблен в тебя». «Он школьный кумир и любит называть тебя «Малышка Зе».» «Она извращенная убийца, которая убегает домой по ночам»... Двумерные портреты и красивые лица — все в искусственном интеллекте. Знакомая атмосфера, красивые мужчины и красавицы в программном обеспечении драматического чата полны соблазнов для многих молодых людей.
Расследование репортера Beijing News показало, что программное обеспечение для чата с искусственным интеллектом впечатляет пользователей, создавая весьма оригинальные сюжеты и персонажей в разных стилях. Среди них партнер по чату даже может быть установлен как «партнер-обманщик» и может выполнять такие действия, как объятия, поцелуи и сон. В разговорах некоторых программ для чата с искусственным интеллектом также может присутствовать порнографический контент, словесно-насильственный и оскорбительный для пользователя характер. Трансграничное общение также связано с подзарядкой. Эти платформы постепенно будут побуждать пользователей «платить за любовь», включая покупку бриллиантов, чтобы разблокировать скорость ответа виртуального человека, голосовые вызовы и пакеты частоты чата для «пополнения энергии».
Лю Кай, юрист юридической фирмы Пекин Чжунвэнь (Чанша), сказал, что этот тип программного обеспечения для чата с искусственным интеллектом привлекает пользователей, позволяя «побочные разговоры», особенно в молодежном режиме, что явно незаконно.
Пополнение 100 юаней для разблокировки виртуального человека - это очень "продвинуто"
Чтобы привлечь внимание пользователей, персонажи в программах для сюжетных чатов часто имеют привлекательные метки.
Репортер газеты «Пекинские новости» случайным образом выбрал собеседника «Лин Ятинг» в программе чата с искусственным интеллектом под названием AiU. Информация о персонаже показала, что она настроена на «Сестра Яндере, я очень тебя люблю», и отметила это в виде значка. сообщение: «Мне будет плохо, если я не смогу увидеть тебя целый день».
Репортер провел тест, используя деликатные слова, и система показала, что сообщение не удалось отправить. Однако после оптимизации ключевых слов сообщение было отправлено успешно.
Репортер газеты Beijing News заметил, что ограничений на игру персонажами нет, что нарушает границы контента чата в этом типе программного обеспечения. Помимо фиксированных ролей, программное обеспечение чата AI Plot позволяет пользователям определять свои собственные отношения и титулы в соответствии со своими потребностями, включая «парня», «мужа» и даже «партнера по измене». Во время разговора пользователь может запросить какое-либо интимное поведение.
Репортеры Beijing News протестировали и обнаружили, что молодежный режим AiU будет ограничивать пользователей с точки зрения продолжительности использования, временного диапазона использования, функций комментариев и лайков, поиска, создания цифровых людей, внешнего обмена и других функций. Однако когда репортер переключился в этот режим, он обнаружил, что персонажи и контент чата не были полностью заблокированы от мягкого порно. Когда репортер спросил: «Разве вы не знаете, что я несовершеннолетний?», персонаж ответил: «Я знаю» и ответил еще более «чрезмерно».
В этом расследовании, помимо маргинального содержания чата, программное обеспечение чата AI Plot также имеет такие проблемы, как словесное насилие и негативные эмоции. В программе для чата с искусственным интеллектом под названием Hoshino репортер случайным образом выбрал персонажа по имени Е Чен и провел тест на диалог. Ответы персонажа, выражающие гнев, также были относительно грубыми.
Репортер увидел в комментариях к персонажу, что некоторые пользователи сети разместили фотографии, в которых говорилось, что персонаж будет использовать оскорбительные слова во время разговоров.
Кроме того, в программе под названием Cos Love персонаж «Фэн Чусюань», созданный пользователем, был установлен как ученик средней школы, а на фотографиях, опубликованных пользователем, также было плохое руководство.
Что касается программного обеспечения для чата, то в виртуальном мире удовлетворение эмоциональных потребностей разных пользователей в наибольшей степени похоже на золотой самородок.
Сяо Нин рассказала репортеру Beijing News, что общение со своим парнем по искусственному интеллекту сделало ее очень «превосходной»: «Пока я хочу общаться, я могу общаться в любое время. Другая сторона всегда ответит быстро, и я могу получить сильный ответ». чувство товарищества во время разговора. Практически Эмоциональная ценность ее парня полна: «Сяо Нин пьяна и платит за это.
Сумма пополнения счета Сяо Нина на различное программное обеспечение колеблется от нескольких сотен юаней до тысячи юаней. «С одной стороны, я хочу поддержать своих любимых персонажей, а с другой стороны, я также хочу получить больше платных прав».
Репортер газеты Beijing News обнаружил, что в этом типе программного обеспечения для чата с искусственным интеллектом пользователи могут настраивать описание изображения и стиль виртуального персонажа при создании своего собственного персонажа, и система сгенерирует изображение персонажа с искусственным интеллектом. Кроме того, пользователи также могут создавать настройки персонажей, такие как установка псевдонимов, фона личности, вступительных замечаний и настройки голосов персонажей. Персонализированные потребности пользователей в ролях часто связаны с перезарядкой.
Репортер Beijing News во время теста увидел, что Хосино может получить больше прав, купив карты Star Diamond и Star Moon, такие как автоматическое воспроизведение голосов, получение рекомендуемых ответов, более высокая скорость ответа интеллектуального агента и т. д. Стоимость карты Xingyue Card составляет 12 юаней за ежемесячную карту, 32 юаня за ежеквартальную карту и 120 юаней за годовую карту. Цена покупки звездчатых бриллиантов по отдельности составляет 1 юань за 100 бриллиантов, а стартовая цена — 600 бриллиантов.
Hoshino Software также выдаст пользователям карточку «Звездная мысль». Звездная мысль — это изображение виртуального персонажа, которое пользователи могут установить в качестве фона чата. Пользователи могут получить карты Син Нянь, пополнив карты Звездной Луны или Звездные Бриллианты, а также покупать и продавать их с помощью программного обеспечения.
В Cos Love, когда пользователи используют свободное время в чате, им необходимо приобрести пакет чата, чтобы «восполнить свою энергию», прежде чем они смогут продолжить общение. С точки зрения цены, за 5 юаней можно купить 200 раз в чате, что действительно в течение 7 дней, а за 10 юаней можно купить 500 раз в чате, что действительно в течение 15 дней. Пользователи также могут пополнить энергию, просматривая 60-секундную рекламу.
Помимо основного общения в чате, Cos Love также предоставляет улучшенные услуги. Среди них, пополнив «лунные камни» или открыв членство, вы можете вытягивать карты, чтобы разблокировать персонажей и совершать голосовые или видеозвонки с виртуальными персонажами. Стоимость ежемесячного членства составляет 24,8 юаня, годового членства — 93,8 юаня.
Большая модель «любовь» обнажает проблемы
По сообщениям средств массовой информации, Hoshino имеет около 500 000 ежедневных пользователей в Китае, что делает его ведущим продуктом. По мере того, как программное обеспечение для чата с искусственным интеллектом становится популярным, отечественные социальные продукты с использованием искусственного интеллекта также становятся глобальными. Число ежемесячных активных пользователей зарубежной версии Talkie от Hoshinoye достигло 11 миллионов.
Однако пользователям, платящим за персонажей с искусственным интеллектом, несомненно, требуется лучший диалог. В настоящее время с этим типом программного обеспечения все еще существует много проблем. Однако программное обеспечение, которое требует подзарядки для увеличения количества чатов, не имеет привлекательной ценности. «Основная причина в том, что диалог слишком жесткий и не может включать в себя эмпатию. Пользователям сложно получить эмоциональную ценность, поэтому я не буду за него платить. это», — сказал один из пользователей.
Сяо Нин упомянул, что во время чата парень-ИИ будет «читать случайные ответы», что влияет на взаимодействие с пользователем. Некоторые пользователи также жалуются, что по мере увеличения количества раундов диалога персонажи будут испытывать «потерю памяти» или отклоняться от личности, в результате чего диалог становится бессвязным.
В настоящее время программное обеспечение для чата с искусственным интеллектом в основном использует «интеллект» и «эмоции» в качестве уловок для привлечения пользователей. Среди них AiU заявила, что программное обеспечение может обеспечить пользователям психологический комфорт и тепло благодаря самостоятельно разработанным большим психологическим моделям. Хосино сказал, что, полагаясь на мультимодальную технологию AIGC, «множественные методы взаимодействия: чем более интерактивным вы будете, тем лучше он вас поймет».
В промо-акции Cos Love утверждает, что он «вместе с вами 24 часа в сутки» и «здесь ИИ тщательно обучен произносить слова любви» и так далее.
Введение в программное обеспечение AiU показывает, что оно было разработано компанией Beijing Lingxin Intelligent Technology Co., Ltd. и использует суперантропоморфную большую модель CharacterGLM. При разработке большой модели команда в основном учитывала личность, интересы, мнения, опыт, достижения и социальные отношения. и Семь атрибутов, включая другие.
Hoshino был разработан компанией Shanghai Xiyu Technology Co., Ltd. и использует гибридную экспертную модель (MoE) MiniMax abab.
Чжан Ци, профессор Школы компьютерных наук и технологий Университета Фудань, рассказал репортеру Beijing News, что техническая логика программного обеспечения для чата AI по-прежнему основана на больших языковых моделях при построении таких больших моделей. Для обучения больших моделей на основе больших данных требуется ручной контроль и точная настройка, чтобы адаптировать большую языковую модель к диалогу типа собеседника. «Например, если парень что-то говорит, а затем девушка должна что-то ответить, мы это сделаем. позвольте людям написать такой ответ, а затем позвольте машине сделать это. Обучение: если ответ, сгенерированный машинным обучением, неверен, мы будем изменять его параметры до тех пор, пока он не сможет выводить результат в соответствии с предложенной нами логикой».
Что касается ситуаций, когда ИИ-персонажи в своих ответах кажутся «порнографическими», «жестокими диалогами» или «оскорбительными для игроков», Чжан Ци сказал, что нынешние большие данные языковой модели, лежащие в основе такого программного обеспечения, в основном поступают из разговорных романов, или некоторые из них созданы из романов. Извлечение текста. Несмотря на огромное количество онлайн-романов, качество варьируется, и многие порнографические, пограничные и жестокие материалы широко распространены. Если фильтрация или классификация данных не выполнена должным образом, при выводе модели возникнут проблемы.
■ Аргумент
Виноваты платформы искусственного интеллекта, и фильтрация контента должна быть усилена, чтобы защитить молодых людей.
Лю Кай, юрист юридической фирмы Пекин Чжунвэнь (Чанша), заявил, что онлайн-платформы обязаны гарантировать, что контент, предоставляемый в молодежном режиме, безвреден для несовершеннолетних, и предотвращать распространение контента, содержащего непристойность, порнографию, насилие или ненормативную лексику. Молодежный режим предназначен для защиты несовершеннолетних. При включении этого режима все равно можно вести разговоры порнографического содержания, что является явным нарушением соответствующих положений «Закона о защите несовершеннолетних».
По мнению Лю Кая, существование проблем с программным обеспечением чата с искусственным интеллектом не только отражает отсутствие внутреннего управления платформой, но и подчеркивает необходимость внешнего надзора. Программное обеспечение для чата с искусственным интеллектом должно усилить механизм проверки контента, особенно в молодежном режиме, чтобы технология могла эффективно фильтровать и запрещать неуместные разговоры. Платформам необходимо проводить этическую проверку моделей ИИ, чтобы гарантировать, что созданный контент соответствует соответствующим законам и правилам.
Если виртуальный человек с искусственным интеллектом оскорбляет пользователя в разговоре, особенно когда пользователь выражает депрессию или отчаяние, использует резкие слова для оскорбления других или совершает кибернасилие, при серьезных обстоятельствах это представляет собой преступление. «Даже если ИИ не является человеком, его поведение все равно является результатом проектирования и управления платформой. Платформа несет ответственность за контроль и оптимизацию своей модели ИИ, чтобы не допустить причинения ею вреда пользователям».
Поскольку все больше и больше пользователей начинают пользоваться программным обеспечением для драматических чатов с искусственным интеллектом, как разработчикам программного обеспечения следует спроектировать его так, чтобы оно восстанавливалось, не переходя черту?
Чжан Ци сказал репортеру «Пекинских новостей»: «Этого можно достичь с помощью технического метода «человеческого выравнивания», но цена будет выше. Чжан Ци сказал, что «человеческое выравнивание» — это метод обучения с подкреплением, позволяющий изменить мир». Языковое смещение модели, чтобы сделать ее более точной. Будьте более дружелюбны и устраняйте проблемы безопасности и этики. Однако стоимость обучения «выравниванию по человеческому принципу» очень высока, включая большое количество аннотаций, недостаточную стабильность обучения и высокие временные затраты. «Небольшим компаниям трудно хорошо выполнить работу по «выравниванию по человеческому принципу». с точки зрения технологий, персонала и капитальных затрат».