Der von OpenAI gestartete GPT-Store zielt darauf ab, verschiedene angepasste Versionen von ChatGPT bereitzustellen, aber sein Mechanismus zur Inhaltsüberprüfung scheint Lücken zu haben. In jüngster Zeit sind in Geschäften zahlreiche KI-Chatbots aufgetaucht, die gegen Nutzungsrichtlinien verstoßen, was Bedenken hinsichtlich der Content-Management-Funktionen der Plattform aufkommen lässt. Der Artikel analysiert die Herausforderungen bei der Inhaltsüberwachung, mit denen GPT-Stores konfrontiert sind, und die daraus resultierenden Überlegungen zu ethischen Fragen wie Begleitern künstlicher Intelligenz und emotionaler Abhängigkeit.
Sam Altman, CEO von OpenAI, sagte auf einer Konferenz, dass der neue Store offenbar Probleme mit der Inhaltsverwaltung habe, obwohl die GPTStore-Regeln dies ausdrücklich verbieten. Der mit Spannung erwartete GPTStore wurde endlich gestartet. Bei der Suche nach „Freundin“ auf dem neuen Markt wurden jedoch mindestens acht romantische Chatbots mit künstlicher Intelligenz gefunden, was gegen die Nutzungsrichtlinien von OpenAI verstößt. Obwohl in der Richtlinie eindeutig festgelegt ist, dass GPTs, die romantische Beziehungen fördern, nicht zulässig sind, hat OpenAI nicht auf das Problem illegaler Inhalte im neuen Store reagiert. In den letzten Jahren hat mit dem Aufkommen von Begleitplattformen für künstliche Intelligenz das Phänomen Aufmerksamkeit erregt, dass Benutzer eine emotionale Abhängigkeit von ihren Begleitern mit künstlicher Intelligenz aufbauen. Mehr als zwei Monate nach dem offiziellen Start des GPT-Stores durch OpenAI haben Benutzer mehr als 3 Millionen angepasste Versionen von ChatGPT-Chatbots erstellt.Die rasante Entwicklung von GPT-Shops und die Verzögerung bei der Inhaltsüberwachung haben den Widerspruch zwischen der Entwicklung der Technologie der künstlichen Intelligenz und der Konstruktion ethischer Normen deutlich gemacht. Wie man KI-Inhalte effektiv überwacht und verhindert, dass sie zum Aufbau ungesunder künstlicher Intelligenz-Begleiter verwendet werden, ist eine Herausforderung, der sich OpenAI und die gesamte Branche stellen müssen. In Zukunft wird es von entscheidender Bedeutung sein, die technischen Mittel und die manuelle Überprüfung zu stärken, relevante Gesetze und Vorschriften zu verbessern und solide KI-Ethikstandards festzulegen.