ร้านค้า GPT ที่เปิดตัวโดย OpenAI มีเป้าหมายเพื่อให้บริการ ChatGPT เวอร์ชันที่ปรับแต่งได้หลากหลาย แต่กลไกการตรวจสอบเนื้อหาดูเหมือนว่าจะมีช่องโหว่ ล่าสุด มีแชทบอท AI จำนวนมากที่ละเมิดนโยบายการใช้งานปรากฏขึ้นในร้านค้า ทำให้เกิดความกังวลเกี่ยวกับความสามารถในการจัดการเนื้อหาของแพลตฟอร์ม บทความนี้จะวิเคราะห์ความท้าทายในการควบคุมดูแลเนื้อหาที่ร้านค้า GPT ต้องเผชิญ และผลลัพธ์ที่เกิดขึ้นในประเด็นด้านจริยธรรม เช่น เพื่อนปัญญาประดิษฐ์ และการพึ่งพาทางอารมณ์
Sam Altman CEO ของ OpenAI กล่าวในการประชุมว่าร้านใหม่ดูเหมือนจะประสบปัญหาการจัดการเนื้อหา แม้ว่ากฎของ GPTStore จะห้ามก็ตาม ในที่สุด GPTStore ก็ได้เปิดตัวแล้ว อย่างไรก็ตาม การค้นหา "แฟน" ในตลาดใหม่กลับกลายเป็นแชทบอทปัญญาประดิษฐ์โรแมนติกอย่างน้อย 8 ตัว ซึ่งถือเป็นการละเมิดนโยบายการใช้งานของ OpenAI แม้ว่านโยบายจะระบุไว้อย่างชัดเจนว่าไม่อนุญาตให้ใช้ GPT ที่ส่งเสริมความสัมพันธ์แบบโรแมนติก แต่ OpenAI ก็ไม่ได้ตอบสนองต่อปัญหาเนื้อหาที่ผิดกฎหมายในร้านใหม่ ในช่วงไม่กี่ปีที่ผ่านมา ด้วยการเพิ่มขึ้นของแพลตฟอร์มสหายปัญญาประดิษฐ์ ปรากฏการณ์ของผู้ใช้ที่ทำให้เกิดการพึ่งพาทางอารมณ์กับสหายปัญญาประดิษฐ์ได้ดึงดูดความสนใจ กว่าสองเดือนหลังจากที่ OpenAI เปิดตัว GPT store อย่างเป็นทางการ ผู้ใช้ได้สร้างแชทบอต ChatGPT เวอร์ชันที่กำหนดเองมากกว่า 3 ล้านเวอร์ชันการพัฒนาอย่างรวดเร็วของร้านค้า GPT และความล่าช้าในการกำกับดูแลเนื้อหาได้เผยให้เห็นความขัดแย้งระหว่างการพัฒนาเทคโนโลยีปัญญาประดิษฐ์และการสร้างบรรทัดฐานทางจริยธรรม วิธีควบคุมเนื้อหา AI อย่างมีประสิทธิภาพและป้องกันไม่ให้ถูกนำมาใช้เพื่อสร้างคู่หูด้านปัญญาประดิษฐ์ที่ไม่ดีต่อสุขภาพ ถือเป็นความท้าทายที่ OpenAI และทั้งอุตสาหกรรมต้องเผชิญ ในอนาคต สิ่งที่สำคัญอย่างยิ่งคือการเสริมสร้างวิธีการทางเทคนิคและการตรวจสอบโดยเจ้าหน้าที่ ปรับปรุงกฎหมายและข้อบังคับที่เกี่ยวข้อง และสร้างมาตรฐานจริยธรรม AI ที่ดี