В последние годы технологии искусственного интеллекта быстро развиваются, и их приложения все активнее проникают во все аспекты жизни. Недавно приложение под названием «AI Girlfriend» быстро стало популярным на социальных платформах и привлекло всеобщее внимание. Эти спутники искусственного интеллекта, созданные с помощью крупных моделей, могут предоставлять круглосуточные услуги чата и иметь несколько методов взаимодействия, таких как текст, голос и изображения. Однако это новое приложение также сопряжено с некоторыми этическими и социальными проблемами, которые заслуживают дальнейшего изучения.
На социальных платформах появился тренд на ИИ-подруг, которые генерируются крупными моделями и общаются с ними 24 часа в сутки. Они хорошо разбираются в текстах, голосе и красивых фотографиях. Некоторые подруги ИИ используют крупномасштабные фотографии для привлечения поклонников, что предполагает порнографическую модель получения прибыли. Они используют генеративный чат для построения близких отношений с пользователями, включая широкомасштабные разговоры, и его опыт аналогичен реальному чату. Небольшие платформы нарушили этические ограничения и запустили «ролевые игры совершенно без цензуры», что привлекло внимание общества и давление со стороны регулирующих органов. Модели прибыли, которые приносят подруги-ИИ, включают подписки фанатов, поддержку рекламы и даже клонирование реальных интернет-знаменитостей, таким образом, замаскированное участие в порнографической индустрии.
Появление ИИ-подруг, с одной стороны, отвечает социальным потребностям некоторых пользователей, но с другой стороны, также обнажает отсутствие контроля и этические риски. Перед нами стоят важные вопросы: как сбалансировать технологическое развитие и социальную ответственность, а также как стандартизировать границы приложений ИИ. Необходимо усилить надзор, уточнить этические нормы, избегать злоупотреблений технологиями искусственного интеллекта и поддерживать здоровую сетевую среду.