Wie man künstliche Intelligenz in die Lage versetzt, kognitive Gerechtigkeit zu erreichen
Autor：Eve Cole
Aktualisierungszeit：2024-11-22 17:54:01
In den letzten Jahren wurde künstliche Intelligenz in vielen Branchen eingesetzt und hat sich zu einem „guten Helfer“ für die Menschheit entwickelt. Dabei traten jedoch auch verschiedene Probleme auf. Unter anderem generiert das System der künstlichen Intelligenz fehlerhaftes „Wissen“ auf der Grundlage schlechter Datenquellen und eines fehlerhaften Algorithmusdesigns und ist nicht in der Lage, Werturteile über den Ausgabeinhalt zu fällen und kann keine entsprechenden kognitiven Verantwortlichkeiten übernehmen, was zu systemischen kognitiven Verzerrungen führt ist ein ziemlich prominentes Thema. Aus Sicht der Wissenschafts- und Technikethik verstößt dies gegen das Prinzip der kognitiven Gerechtigkeit. Die sogenannte kognitive Gerechtigkeit bezieht sich darauf, sicherzustellen, dass die Stimmen aller Einzelpersonen und Gruppen im Prozess der Wissensgenerierung, -verbreitung und -aneignung fair gehört und verstanden werden können und die gleichen Chancen haben, in öffentliches Wissen der Menschheit umgewandelt zu werden. In der Vergangenheit beruhte die Wissensgenerierung hauptsächlich auf der Wahrnehmung, dem Gedächtnis, dem Denken und der Aussage menschlicher Individuen. Allerdings unterliegen die traditionellen Methoden der Wissensgenerierung und -verbreitung mit der rasanten Verbreitung künstlicher Intelligenz, insbesondere der weit verbreiteten Anwendung konversationsbasierter künstlicher Intelligenz, großen Veränderungen. Die heutige künstliche Intelligenz ist nicht nur gut darin, Informationen zu sammeln und Aufgaben auszuführen, sondern auch eine „kognitive Technologie“, die Wissen generieren und verbreiten kann. Sie wird verwendet, um kognitive Inhalte (wie Aussagen, Modelle, Daten) zu verarbeiten und kognitive Operationen durchzuführen (z. B wie Statistische Analyse, Mustererkennung, Vorhersage, Schlussfolgerung und Simulation). „Maschinenwissen“, das auf Daten und Algorithmen basiert, stellt früheres menschliches Wissen, das auf Erfahrung und professionellem Urteilsvermögen basiert, in Frage, was zu kognitiver „Fragmentierung“ führt und die kognitive Gerechtigkeit traditioneller menschlicher Wissenssysteme untergräbt. Heutzutage ist generative künstliche Intelligenz vollständig in alle Szenarien und sozialen Prozesse eingebettet, die einen technischen Ersatz für Kognition und Entscheidungsfindung darstellen können. Wie kann künstliche Intelligenz angesichts der Herausforderung der kognitiven Gerechtigkeit, die durch künstliche Intelligenz bei der Wissensgenerierung verursacht wird, intelligenter werden? Wie kann es dazu beitragen, die Kognition zu verbessern und sicherzustellen, dass Wissenschaft und Technologie gut sind? Der Autor ist der Ansicht, dass es notwendig ist, von den Dimensionen Verbesserung der Datenqualität, Verbesserung des Algorithmendesigns, Optimierung der Mensch-Maschine-Zusammenarbeit und Stärkung ethischer Governance auszugehen. Verantwortungsvolles Algorithmendesign ist eine Kernarchitektur zur Erreichung epistemischer Gerechtigkeit. Als leistungsstarke kognitive Technologie identifiziert künstliche Intelligenz Informationsmuster und -trends durch Data Mining und statistische Analysen und beteiligt sich an der Generierung menschlichen öffentlichen Wissens. Da sich der Algorithmus auf Informationsmuster konzentriert, die in den Trainingsdaten häufig vorkommen, werden Daten, die nicht häufig genug oder statistisch nicht aussagekräftig genug sind, oft übersehen und ausgeschlossen, was den Algorithmus daran hindert, sie vollständig zu verstehen und angemessen zu reagieren. Algorithmendesign, das auf statistischen Häufigkeiten beruht, stellt eine besondere Art von „kognitivem blinden Gehorsam“ dar, der wiederum zur systematischen Marginalisierung der Stimmen einiger Gruppen führt. Dieser Konstruktionsfehler schränkt nicht nur die kognitiven Fähigkeiten des Algorithmus ein, sondern verschärft auch die Ungleichheit und kognitive Unterdrückung in der Gesellschaft und untergräbt die kognitive Gerechtigkeit. Die Hauptursache für das Verhalten des „blinden Gehorsams“ ist das mangelnde Verständnis der kulturellen Hintergründe verschiedener Gruppen im Algorithmusdesign- und Trainingsprozess. Daher sollte ein Algorithmusdesign, das den Anforderungen der kognitiven Gerechtigkeit gerecht wird, neben der Transparenz und Erklärbarkeit von Algorithmen, über die wir oft sprechen, auch die kognitive Vielfalt berücksichtigen, an der verschiedene Gemeinschaften beteiligt sind. Eine qualitativ hochwertige Datenversorgung ist die Infrastruktur zur Verwirklichung epistemischer Gerechtigkeit. Ein weiterer wichtiger Faktor, der dazu führt, dass KI die epistemische Gerechtigkeit untergräbt, ist die Datenqualität. Big Data ist die kognitive Basis und Entscheidungsgrundlage intelligenter Technologie. Sie kann die Merkmale und Trends aller Aspekte des menschlichen sozialen Lebens klarer und intuitiver darstellen. Im Gegensatz zum traditionellen menschlichen öffentlichen Wissen werden Daten jedoch nicht von allen geteilt. Insbesondere ist unklar, welche Daten gesammelt und für die Analyse verwendet werden können, wie diese Daten klassifiziert und extrahiert werden und wem sie letztendlich dienen, was zu einer ungleichmäßigen Datenqualität führt. Die Trainingsdaten für Algorithmen stammen oft aus großen Datenbanken und Communities im Internet und diese Daten enthalten wahrscheinlich Voreingenommenheit und Diskriminierung. Für die Wissensgenerierung durch künstliche Intelligenz muss sichergestellt werden, dass die Datenquelle zuverlässig und der Inhalt vielfältig ist, dass die Daten verzerrt sein müssen und dass die Daten kontinuierlich überwacht und aktualisiert werden müssen, um neuen Problemen, die durch soziale und kulturelle Veränderungen entstehen, gerecht zu werden. Nur mit einer qualitativ hochwertigen Datenversorgung können Systeme der künstlichen Intelligenz in multikulturellen und komplexen sozialen Strukturen genaueres Wissen und Entscheidungsunterstützung liefern. Die groß angelegte Mensch-Maschine-Zusammenarbeit ist ein wirksames Mittel, um kognitive Gerechtigkeit zu erreichen. Von der Signalübersetzung in Gehirn-Computer-Schnittstellen bis hin zu gemeinsamen Aktionen von Mensch und Maschine wie intelligenter medizinischer Entscheidungsfindung und KI für die Wissenschaft umfasst die Zusammenarbeit zwischen Mensch und Maschine auf verschiedenen Ebenen kognitive Prozesse wie die Übertragung, Interpretation und Integration von menschlichem Wissen und Maschine Wissen. Angesichts der typischen kognitiven Eigenschaften von Menschen und Maschinen wird eine groß angelegte und rationale „kognitive Arbeitsteilung zwischen Mensch und Maschine“ wirksam weitere kognitive Verzerrungen zwischen Mensch und Maschine vermeiden. In der wissenschaftlichen Forschung kann es beispielsweise zu einer solchen Arbeitsteilung kommen: Menschen setzen Ziele, stellen Hypothesen auf und interpretieren Ergebnisse und sind für kreatives Denken, spontane Entscheidungen, ethisches Urteilsvermögen und intuitives Verständnis verantwortlich von unstrukturierten Problemen; während künstliche Intelligenz große Mengen strukturierter Daten verarbeitet, führt sie Mustererkennung und prädiktive Analysen durch, um unbemerkte Muster und Korrelationen bereitzustellen. Bei dieser Art der Zusammenarbeit wird KI eher zu einem „Partner“, der neue Ideen inspiriert, statt zu einer „Maschine“, die falsches Wissen generiert. Ethische Governance auf hoher Ebene ist die institutionelle Unterstützung für die Verwirklichung kognitiver Gerechtigkeit. Kognitive Gerechtigkeit erfordert eine vielfältige Wissensgenerierung, einen gleichberechtigten Wissenserwerb, eine unvoreingenommene Wissensverbreitung und eine verantwortungsvolle Wissensnutzung, die alle ein hohes Maß an ethischer Governance durch künstliche Intelligenz erfordern. Für Unternehmen sollten bei der Gestaltung von Algorithmen die Bedürfnisse und Perspektiven verschiedener sozialer Gruppen berücksichtigt werden, und es sollte auch eine kontinuierliche Risikoüberwachung und Wertbewertung von Algorithmen durchgeführt werden, um Forscher und Benutzer mit unterschiedlichem Hintergrund zu ermutigen Teilnahme an künstlicher Intelligenz Bei der Erforschung und Beurteilung intelligenter ethischer Risiken können ethische Risiken zeitnah gelöst werden. Die Regierung sollte die Umwandlung privater Daten in öffentliche Daten aktiv fördern, die Öffnung und Weitergabe öffentlicher Daten an die gesamte Gesellschaft beschleunigen, die Datenvielfalt erweitern und die Datenzuverlässigkeit stärken. Außerdem sollte sie nach sozialen Lösungen suchen, um mit dem Potenzial umzugehen ethische Risiken künstlicher Intelligenz und etablieren ein System, das einen agilen Governance-Mechanismus mit zukunftsweisender Voraussicht, Echtzeitbewertung und systematischer Anpassung abdeckt.
