OpenAI 推出的GPT商店旨在提供多样化的ChatGPT自定义版本，但其内容审核机制似乎存在漏洞。近期，大量违反使用政策的AI聊天机器人出现在商店中，引发了人们对平台内容管理能力的担忧。文章将分析GPT商店面临的内容监管挑战，以及由此引发的关于人工智能伴侣和情感依赖等伦理问题的思考。
OpenAI首席执行官萨姆·奥特曼在一次会议上表示，尽管GPTStore规定明文禁止，但新商店似乎正面临着内容管理问题。备受期待的GPTStore终于推出，然而，新市场上搜索“女友”至少出现了八款浪漫的人工智能聊天机器人，违反了OpenAI的使用政策。尽管政策明确规定不允许促进浪漫关系的GPTs，但新商店上出现违规内容，OpenAI并没有对外回应此问题。近年来，人工智能伴侣平台崛起，用户与人工智能伴侣建立情感依赖的现象引起关注。OpenAI正式推出GPT商店两个多月，用户已创建超过300万个自定义版本的ChatGPT聊天机器人。GPT商店的迅速发展和内容监管的滞后，暴露出人工智能技术发展与伦理规范建设之间的矛盾。如何有效地监管AI内容，避免其被用于构建不健康的人工智能伴侣，是OpenAI以及整个行业都必须面对的挑战。未来，加强技术手段和人工审核，完善相关法律法规，建立健全的AI伦理规范，将至关重要。