OpenAI 推出的GPT商店旨在提供多樣化的ChatGPT自訂版本，但其內容審核機制似乎存在漏洞。近期，大量違反使用政策的AI聊天機器人出現在商店中，引發了人們對平台內容管理能力的擔憂。文章將分析GPT商店面臨的內容監管挑戰，以及由此引發的人工智慧伴侶和情感依賴等倫理問題的思考。
OpenAI執行長薩姆·奧特曼在一次會議上表示，儘管GPTStore規定明文禁止，但新商店似乎正面臨內容管理問題。備受期待的GPTStore終於推出，然而，新市場上搜尋「女友」至少出現了八款浪漫的人工智慧聊天機器人，違反了OpenAI的使用政策。儘管政策明確規定不允許促進浪漫關係的GPTs，但新商店上出現違規內容，OpenAI並沒有對外回應此問題。近年來，人工智慧伴侶平台崛起，使用者與人工智慧伴侶建立情感依賴的現象引起關注。 OpenAI正式推出GPT商店兩個多月，用戶已創建超過300萬個自訂版本的ChatGPT聊天機器人。GPT商店的快速發展和內容監管的滯後，暴露出人工智慧技術發展與倫理規範建設之間的矛盾。如何有效地監管AI內容，避免其被用於建立不健康的人工智慧伴侶，是OpenAI以及整個產業都必須面對的挑戰。未來，加強技術手段和人工審核，完善相關法律法規，建立健全的AI倫理規範，將至關重要。