Ein KI-Ethiker an der Universität Cambridge warnte davor, dass KI-Assistenten in Zukunft unsere Entscheidungen ohne unser Bewusstsein vorhersagen und beeinflussen könnten und diese „Absichtssignale“ sogar an Unternehmen verkaufen könnten. Sie nennen es die „Intention Economy“ und es ist ein lukrativer, aber beunruhigender digitaler Marktplatz. In diesem Artikel werden die Funktionsweise, potenziellen Risiken und Trends der Technologiegiganten in diesem Bereich eingehend untersucht und ihre Auswirkungen auf die zukünftige Gesellschaft analysiert.
Künftig könnten KI-Assistenten unsere Entscheidungen frühzeitig vorhersagen und beeinflussen und diese aufkommenden „Absichten“ in Echtzeit an Unternehmen verkaufen, die den Bedarf decken können, noch bevor wir uns unserer Entscheidungen bewusst sind. Das ist keine Science-Fiction, sondern eine Warnung eines KI-Ethikers an der Universität Cambridge. Sie argumentieren, dass wir am Anfang eines „lukrativen, aber beunruhigenden neuen Marktes für digitale Absichtssignale“ stehen, der alles vom Kauf von Kinokarten bis zur Wahl von Kandidaten betrifft. Sie nennen es die „Intentionsökonomie“.
Forscher am Centre for Future Intelligence (LCFI) der Universität Cambridge glauben, dass die Explosion der generativen KI und unsere zunehmende Vertrautheit mit Chatbots ein neues Feld der „persuasiven Technologie“ eröffnet hat, das bereits durch die neuesten Ankündigungen der Technologie angedeutet wird Riesen.
Menschenähnliche KI-Agenten wie Chatbot-Assistenten, digitale Mentoren und sogar virtuelle Liebhaber werden Zugriff auf riesige Mengen persönlicher psychologischer und Verhaltensdaten haben, die oft durch informelle Gespräche gesammelt werden. Diese KIs kennen nicht nur unsere Online-Gewohnheiten, sie haben auch die unheimliche Fähigkeit, auf eine Weise mit uns in Kontakt zu treten, mit der wir uns wohl fühlen – indem sie Persönlichkeiten nachahmen und unsere gewünschten Reaktionen vorhersagen. Forscher warnen, dass dieses Maß an Vertrauen und Verständnis eine groß angelegte soziale Manipulation ermöglichen wird.
Dr. Yaqub Chaudhary, ein Gastwissenschaftler am LCFI, sagte: „Die enormen Ressourcen, die in die Positionierung von KI-Assistenten in verschiedenen Lebensbereichen investiert werden, werfen die Frage auf, für wessen Interessen und Zwecke diese sogenannten Assistenten tatsächlich konzipiert sind.“ Was während eines Gesprächs gesagt wird, wie es gesagt wird und die daraus gezogenen Echtzeit-Schlussfolgerungen sind privater als eine bloße Aufzeichnung einer Online-Interaktion. „Wir warnen davor, dass KI-Tools bereits entwickelt werden, um menschliche Pläne und Ziele zu ermitteln, abzuleiten, zu sammeln, aufzuzeichnen, zu verstehen, vorherzusagen und letztendlich zu manipulieren und zu kommerzialisieren.“
Dr. Jonnie Penn, Technologiehistoriker am LCFI der Universität Cambridge, weist darauf hin: „Aufmerksamkeit ist seit Jahrzehnten die Währung des Internets. Das Teilen Ihrer Aufmerksamkeit mit Social-Media-Plattformen wie Facebook und Instagram treibt die Online-Wirtschaft an“, warnte er. : „Wenn die Absichtsökonomie unreguliert bleibt, wird sie Ihre Motivationen als die neue Währung behandeln. Es wird ein Goldrausch für diejenigen sein, die menschliche Absichten lokalisieren, kanalisieren und verkaufen.“
Dr. Penn und Dr. Chaudhary wiesen in einem Artikel im „Harvard Data Science Review“ darauf hin, dass die Absichtsökonomie die „Verzeitlichung“ der Aufmerksamkeitsökonomie sein wird: Sie analysieren den Zusammenhang zwischen Benutzeraufmerksamkeit, Kommunikationsmethoden und Verhaltensmustern und final Entscheidungsfindung. „Während einige Absichten vorübergehender Natur sind, wird die Klassifizierung und Ausrichtung langfristiger Absichten für Werbetreibende sehr profitabel sein“, erklärt Dr. Chaudhary.
In der Intent Economy können große Sprachmodelle (LLMs) verwendet werden, um kostengünstig auf den Tonfall, die politische Haltung, den Wortschatz, das Alter, das Geschlecht, die Online-Geschichte und sogar die Vorliebe für Schmeichelei eines Benutzers abzuzielen. Diese Informationen werden mit einem vermittelten Bieternetzwerk verknüpft, um ein bestimmtes Ziel zu maximieren, beispielsweise den Verkauf von Kinokarten („Sie haben erwähnt, dass Sie sich überarbeitet fühlen. Lassen Sie mich Ihnen bei der Buchung der Kinokarte helfen, über die wir gesprochen haben?“). Forscher glauben, dass dies auch die Lenkung von Gesprächen umfassen könnte, um bestimmte Plattformen, Werbetreibende, Unternehmen oder sogar politische Organisationen zu bedienen.
Während die Forscher glauben, dass die Intent Economy vorerst eine „Vision“ für die Technologiebranche bleibt, verfolgen sie erste Anzeichen des Trends anhand veröffentlichter Forschungsergebnisse und Hinweise mehrerer großer Technologieunternehmen. Dazu gehören der offene Aufruf von OpenAI für „Daten, die menschliche Absichten in jeder Sprache, jedem Thema und jedem Format ausdrücken“ in einem Blogbeitrag aus dem Jahr 2023, und der Produktdirektor von Shopify, der im selben Jahr auf einer Konferenz darüber sprach, wie Chatbots „die Absichten der Benutzer explizit erfassen können“.
Der CEO von Nvidia hat öffentlich darüber gesprochen, LLM zum Verständnis von Absichten und Wünschen zu nutzen, und Meta veröffentlichte bereits 2021 seine „Intentonomy“-Studie, einen Datensatz zum Verständnis menschlicher Absichten. Im Jahr 2024 umfasst Apples neues Entwickler-Framework „App Intents“ zum Verbinden von Apps mit Siri „die Vorhersage von Aktionen, die jemand in der Zukunft ergreifen könnte“ und „die Verwendung von Vorhersagen, die Sie [der Entwickler] in der Zukunft bereitstellen“. Protokoll mit der Absicht, die App zu empfehlen an jemanden.
Dr. Chaudhary bemerkte, dass CICERO, der KI-Agent von Meta, in der Diplomatie Leistungen auf menschlichem Niveau erzielt haben soll, einem Spiel, bei dem es darum geht, Absichten abzuleiten und vorherzusagen und überzeugende Dialoge zu nutzen, um die eigene Position voranzutreiben. Er warnte: „Um uns einen kommerziellen Vorteil zu verschaffen, besteht der logische nächste Schritt darin, die von ihnen entwickelte Technologie zu nutzen, um unsere Absichten vorherzusagen und gezielt anzusprechen, bevor wir sie vollständig verstehen.“
Dr. Penn stellte fest, dass diese Entwicklungen nicht unbedingt schlecht seien, aber verheerende Folgen haben könnten. „Das öffentliche Bewusstsein für das, was kommt, ist der Schlüssel, um sicherzustellen, dass wir nicht den falschen Weg einschlagen“, sagte er.
Alles in allem bringt der Aufstieg der „Intention Economy“ sowohl Komfort als auch potenzielle Risiken mit sich. Um ein Gleichgewicht zwischen technologischer Entwicklung und ethischen Normen herzustellen, bedarf es der gemeinsamen Aufmerksamkeit und Anstrengung der gesamten Gesellschaft. Ein tiefgreifendes Verständnis und eine wirksame Überwachung der „Intention Economy“ werden der Schlüssel zur Wahrung der Privatsphäre und der sozialen Stabilität in der Zukunft sein.