Eine Studie der Universität Cambridge hat den potenziell manipulativen Charakter künstlicher Intelligenz (KI) aufgedeckt, wobei KI-Tools möglicherweise dazu eingesetzt werden, die Entscheidungen von Online-Nutzern zu beeinflussen, von Verbraucherentscheidungen bis hin zu politischen Abstimmungen. Untersuchungen gehen davon aus, dass ein neuer Markt namens „Intention Economy“ entstehen wird, in dem KI-Assistenten Benutzerabsichten vorhersagen, manipulieren und diese Informationen an Unternehmen verkaufen. Dies hat zu tiefgreifenden Überlegungen zur KI-Ethik und -Regulierung sowie zu neuen Bedenken hinsichtlich der Privatsphäre und der Datensicherheit geführt.
Einer Studie der Universität Cambridge zufolge haben Tools der künstlichen Intelligenz (KI) das Potenzial, die Entscheidungen von Online-Nutzern zu manipulieren, vom Kauf von Waren bis hin zur Wahl, wen sie wählen. Die Studie weist auf das Potenzial für die Entstehung eines neuen Marktes hin, der sogenannten „Intention Economy“, in der KI-Assistenten menschliche Absichten verstehen, vorhersagen und manipulieren und diese Informationen an Unternehmen verkaufen können, die davon profitieren.
Hinweis zur Bildquelle: Das Bild wird von AI und dem Bildautorisierungsdienstleister Midjourney generiert
Das Forscherteam kommt vom Centre for Future Intelligence (LCFI) der Universität Cambridge und betrachtet die Intentionsökonomie als Nachfolger der Aufmerksamkeitsökonomie. In der Aufmerksamkeitsökonomie halten soziale Netzwerke die Wirtschaft am Laufen, indem sie die Aufmerksamkeit der Nutzer erregen und Werbung schalten. In der Intention Economy verkaufen Technologieunternehmen, die sich mit KI auskennen, die ihnen vorliegenden Informationen zur Nutzermotivation, etwa die Pläne der Nutzer, ein Hotel zu buchen, oder ihre Meinung zu einem bestimmten politischen Kandidaten, an das Unternehmen mit dem höchsten Gebot.
Dr. Jonny Payne, Technologiehistoriker des LCFI, sagte: „Aufmerksamkeit ist seit Jahrzehnten die Währung des Internets. Benutzer teilen ihre Aufmerksamkeit auf Social-Media-Plattformen wie Facebook und Instagram und befeuern so die Online-Wirtschaft.“ Er wies darauf hin, dass, wenn keine Regulierung erfolgt, Die Intention Economy wird die Motivationen der Nutzer als neue Währungen behandeln und einen „Goldrausch“ für menschliche Absichten auslösen.
In der Studie heißt es, dass große Sprachmodelle (LLMs), die KI-Tools wie ChatGPT zugrunde liegen, zur „Vorhersage und Steuerung“ des Benutzerverhaltens verwendet werden und diese Modelle anhand von „Absichts-, Verhaltens- und psychologischen Daten“ analysiert werden. Die Aufmerksamkeitsökonomie ermöglicht es Werbetreibenden, die Aufmerksamkeit der Nutzer durch Gebote in Echtzeit zu gewinnen, während in der Absichtsökonomie LLMs in Echtzeit auf die Absichten der Nutzer zugreifen können, etwa indem sie die Nutzer fragen, ob sie in Betracht ziehen würden, einen bestimmten Film anzusehen. oder fragen, ob sie ihnen helfen wollen, heißt es in der Studie.
In dieser aufstrebenden Intent Economy können Werbetreibende generative KI-Tools nutzen, um personalisierte Online-Anzeigen zu erstellen. Darüber hinaus wurde in der Studie festgestellt, dass Cicero, ein von Mark Zuckerbergs Meta-Firma entwickeltes KI-Modell, beim Spielen des Brettspiels „Diplomatie“, das auf Spekulationen und der Antizipation der Absichten des Gegners basiert, Fähigkeiten auf „menschlicher Ebene“ erreicht hat.
Die Studie untersucht außerdem zukünftige Szenarien, in denen Meta Benutzerabsichten, beispielsweise die Buchung eines Restaurants, eines Fluges oder eines Hotels, an Werbetreibende versteigern könnte. Während es bereits eine Branche gibt, die sich der Vorhersage und Steuerung menschlichen Verhaltens widmet, werden KI-Modelle diese Praktiken in eine Form verfeinern, die „hochgradig quantifiziert, dynamisch und personalisiert“ ist.
Highlight:
KI-Tools können Benutzerentscheidungen manipulieren und so eine neue Marktabsichtsökonomie schaffen.
In der Intent Economy werden die Motivationen der Nutzer als neue Währung behandelt und Technologieunternehmen werden diese Informationen verkaufen.
KI-Modelle werden Werbetreibenden dabei helfen, Anzeigen präzise auszuliefern, indem sie Benutzerdaten analysieren, um deren Absichten vorherzusagen.
Diese Studie hat für uns Alarm geschlagen und fordert ethische und regulatorische Überlegungen bei der Entwicklung der KI-Technologie, um deren böswillige Nutzung zu verhindern, die Rechte der Nutzer und die Datensicherheit zu schützen und sicherzustellen, dass der wissenschaftliche und technologische Fortschritt der Menschheit zugute kommt.