Vor 70 Jahren gab es am Massachusetts Institute of Technology in den Vereinigten Staaten ein berühmtes Gespräch, das unsere aktuelle missliche Lage offenbarte. Damals erklärte Marvin Minsk, ein Pionier der künstlichen Intelligenzforschung: „Wir wollen Maschinen Intelligenz geben und sie selbstbewusst machen.“ Douglas Engelbart, der die Textverarbeitung und die Maus erfunden hat, antwortete: „Sie wollen Maschinen geben.“ so viele gute Dinge? Was wirst du dann für die Menschheit tun?“
Bis heute scheint dies zu einer „dunklen Wolke“ geworden zu sein, die über allen Menschen hängt: Von „Terminator“ über „Matrix“ bis hin zu „I, Robot“ und „Westworld“ haben unzählige Science-Fiction-Filme eine äußerst besorgniserregende Situation beschrieben Zukunft - Maschinen, die Selbstbewusstsein erlangt haben, werden ihrerseits die Menschen übernehmen oder sie sogar eliminieren. Die rasante Entwicklung der künstlichen Intelligenz (KI) hat in den letzten Jahren bei vielen Menschen zunehmend zu der Sorge geführt, ob der Mensch von der künstlichen Intelligenz versklavt wird?
Nicht nur „ein weiteres Werkzeug“
Yuval Hararis neues Buch „Beyond Homo Sapiens“ ist diesbezüglich ziemlich vorsichtig und glaubt fest daran, dass dies durchaus möglich ist: Menschen haben Kräfte geschaffen, die sie nicht zu kontrollieren wissen, sobald diese neuen Dinge der menschlichen Kontrolle entgehen, werden sie ihrerseits versklaven oder ausrotten Menschheit. Seiner Ansicht nach hat die durch Computernetzwerke hervorgebrachte nichtmenschliche Intelligenz die erste Technologie in der Geschichte hervorgebracht, die selbstständig Entscheidungen treffen und neue Ideen hervorbringen kann, die möglicherweise subversive Auswirkungen auf die Ordnung und das System der gegenwärtigen menschlichen Gesellschaft haben.
Störende Wirkung? Natürlich muss es so sein. Sunstein hat in seinem Buch „Network Republic“ schon lange gewarnt, dass das Internet nicht nur eine Technologie sei, sondern dass seine Eigenschaften mit der Zeit zu „kollaborativer Filterung“ und „Gruppenpolarisierung“ führen würden das Funktionieren der Gesellschaft in der Krise. Die Informationskokons, die wir heute sehen, haben dies bestätigt. Wir alle wissen, dass es schlimm ist, aber die Frage ist, wie schlimm es ist.
Nach Ansicht von Harari gehen die Herausforderungen der künstlichen Intelligenz weit darüber hinaus, denn sie sei nicht nur „ein weiteres Werkzeug“, sondern habe das Potenzial, das Informationsnetzwerk für die menschliche Kommunikation zu beherrschen. So mächtig neue Werkzeuge in der Vergangenheit auch waren, die Entscheidung, sie zu nutzen, lag beim Menschen. Doch die künstliche Intelligenz hat dies erstmals geändert. Das ist genau die fatale Schwäche der menschlichen Zivilisation: „Obwohl Menschen große Kooperationsnetzwerke aufbauen können, um enorme Macht zu erlangen, führt die Art und Weise, wie diese Netzwerke aufgebaut sind, dazu, dass Menschen diese Kräfte oft unklug einsetzen.“ Unser Versäumnis, solche Netzwerke klug zu kontrollieren, riskiert unsere eigene Zerstörung.
Die Entstehung der menschlichen Zivilisation beruht auf Zusammenarbeit, und Zusammenarbeit muss auf Informationsaustausch beruhen, sonst wird keine große Gesellschaft möglich sein. Aus dieser Perspektive beruhen alle Organisationsformen in der Geschichte größtenteils auf einer Reihe von Wörtern, an die sich die Mitglieder gemeinsam halten. Dies ist eine „intersubjektive Realität“: Solange die Mitglieder glauben, dass es „wahr“ ist, gilt es für sie, und Zusammenarbeit und Vertrauen basieren alle auf diesem stillschweigenden Konsens.
Hier liegt nun das Problem: Künstliche Intelligenz bietet nicht nur technische Unterstützung für die zentrale Verwaltung von Informationen, sondern kann auch selbstständig neue Ideen hervorbringen. Durch selbstständiges Lernen kann der Algorithmus Dinge lernen, die nicht im Programm geschrieben sind Treffen Sie Entscheidungen selbst, was die Führungskräfte nicht vorhergesehen haben. Je mehr wir mit Computern sprechen und je mehr Informationen wir preisgeben, desto mehr können Roboterprogramme ihnen irgendwann Meinungen vermitteln, unsere Meinung beeinflussen und die menschliche Gesellschaft manipulieren. „Computer müssen keine Killerroboter schicken, um Menschen zu erschießen, sie müssen es einfach tun.“ Einfach einen Menschen manipulieren, um den Abzug zu betätigen.“
Um solch eine schreckliche Szene zu vermeiden, ist es am wichtigsten, über einen starken Selbstkorrekturmechanismus zu verfügen, um Probleme ständig zu erkennen und zu lösen. Allerdings führt die Überarbeitung von Fehlern, wie es bei Computerprogrammen üblich ist, häufig zu neuen Fehlern: „Obwohl der Selbstkorrekturmechanismus dem Streben nach Wahrheit förderlich ist, erhöht er die Kosten für die Aufrechterhaltung der Ordnung erheblich.“ Der Selbstkorrekturmechanismus ist zu leistungsfähig . Es kommt oft zu Zweifeln, Meinungsverschiedenheiten, Konflikten und Spaltungen. „Künstliche Intelligenz verändert vielleicht nicht das Muster der gesellschaftlichen Entwicklung, aber sie kann diese Entwicklung direkt in eine gefährliche Richtung lenken.“
Auf den ersten Blick geht es hier um künstliche Intelligenz und Informationsnetzwerke. Tatsächlich geht es um die Frage, ob und wie das aktuelle Gesellschaftssystem mit solchen Auswirkungen umgehen kann. Harari betonte die Dringlichkeit der Krise, hat die Gefahr jedoch möglicherweise übertrieben. Er ist sehr besorgt darüber, dass der „Siliziumvorhang“ menschliche Computernetzwerke spalten und Informationskokons schaffen wird, die nur schwer miteinander kommunizieren können. Aber andererseits ist es in einer pluralistischen Welt nicht auch naiv zu glauben, dass „der Die Welt ist flach“ Glaube? Der Informationskokon bringt sicherlich einen Abschluss mit sich, bietet aber auch einen Schutz für verschiedene Kulturen. Andernfalls könnten wir Zeuge des Verschwindens einer großen Zahl von Nischenkulturen werden. Auch wenn diese Art der Konzentration von Informationen auf den ersten Blick durch die Technologie gesegnet zu sein scheint, stellt sich die Frage: Kann diese Art der Selbstisolation im Laufe der Zeit wirklich eine stärkere endogene Kraft haben und schließlich einem lebendigen offenen Netzwerk standhalten?
Wird künstliche Intelligenz außer Kontrolle geraten?
Es lässt sich nicht leugnen, dass seine Warnung tatsächlich notwendig ist, zumal die Technologie oft dem sozialen Bewusstsein vorausgeht und zu viele Menschen nicht in der Lage sind, zu erkennen, was künstliche Intelligenz eigentlich bedeutet. Vor dreißig Jahren sagte der US-Kongressabgeordnete Edward Markey: „Die gute Nachricht aus Washington ist, dass jeder im Kongress die Idee einer Datenautobahn unterstützt. Die schlechte Nachricht ist, dass niemand weiß, was das bedeutet.“ die Dummheit der Politiker, aber in der Tat, keine Jedes neue Ding hat diese Eigenschaft, die Menschen hätten nie gedacht, dass es unzählige Bücher, Archive und die Erfindung von Banknoten hervorbringen würde. Wie viele Menschen hätten sich vorstellen können, dass sich die Chat-Tools der sozialen Software bis heute weiterentwickelt haben und so viele haben Eigenschaften? Ihre Multifunktionalität macht unser Leben untrennbar mit ihnen verbunden.
Mit anderen Worten: Die Auswirkungen neuer Dinge zeigen sich allmählich, und niemand kann von Anfang an abschätzen, welche komplexen und weitreichenden gesellschaftlichen Folgen sie letztendlich haben werden. Harari hat in einem Punkt Recht: Der Schlüssel liegt im Selbstkorrekturmechanismus der Gesellschaft, und nicht in der Überreaktion, wenn es ein Problem gibt, und dem Wunsch, diese gefährliche neue Erfindung im Keim zu ersticken, um zu verhindern, dass sie größere Katastrophen verursacht Meinung Wir sind sehr besorgt darüber, dass die Selbstentwicklung der künstlichen Intelligenz außerhalb der menschlichen Kontrolle liegt. Ursprünglich wollten wir A bekommen, haben aber letztendlich B bekommen – aber warum können „unbeabsichtigte Konsequenzen“ nicht gut sein?
Die Besorgnis über die eventuelle Gegenreaktion menschlicher Schöpfungen hat in der westlichen Kultur eine lange Tradition, die auf der Logik des binären Gegensatzes zwischen Subjekt und Objekt beruht. Das „Frankenstein-Monster“, das im Pionierwerk der modernen Science-Fiction dargestellt wird, ist eine solche Geschichte. Diese Sorge ist sicherlich notwendig, aber bedeutet diese Art der „kontrollierten Evolution“ auch, dass die Obergrenze der menschlichen Intelligenz eine Grenze für den technischen Fortschritt setzt?
Auch Kevin Kelly sieht in „Out of Control: The Final Fate and End of All Humanity“ voraus, dass Menschen die Kontrolle über Maschinen verlieren könnten: „Indem wir die Kraft des Lebens in die Maschinen freisetzen, die wir erschaffen, verlieren wir die Kontrolle über ihre Kontrolle. Nachdem sie gewonnen haben.“ Wildheit und einige Überraschungen und Überraschungen gewinnen, gibt es ein Dilemma, dem sich alle Schöpfer stellen müssen: Sie werden ihr Bestes nicht mehr vollständig besitzen. Eine stolze Schöpfung.“ Er glaubt jedoch nicht, dass eine solche Zukunft es wert ist, gefürchtet zu werden, sondern glaubt an die Notwendigkeit, etwas Kontrolle aufzugeben und die „natürliche Evolution“ selbst simulieren zu lassen: „Die Evolution kann es uns ermöglichen, unsere zu übertreffen.“ eigene Planungsfähigkeit; Wir können Dinge schaffen, die wir nicht erreichen können; die Evolution kann sich um die Welt kümmern, um die wir uns nicht kümmern können.
Lernen Sie, miteinander zusammenzuleben
Ja, künstliche Intelligenz kann tiefgreifende Auswirkungen auf das aktuelle soziale System haben, aber sie muss auf die Gesellschaft selbst und nicht auf die Technologie abzielen, da die Eigenschaften von Computernetzwerken oft nicht von der Technologie, sondern von den Eigenschaften sozialer Netzwerke abhängen. Um es ganz klar auszudrücken: Welche Art von Gesellschaft wird welche Art von Informationsnetzwerken und Anwendungen der künstlichen Intelligenz hervorbringen? Wir könnten genauso gut ehrlich sein und nicht der Technologie die Schuld geben.
Das bedeutet nicht, dass wir uns keine Sorgen darüber machen müssen, dass künstliche Intelligenz außer Kontrolle gerät, aber es bedeutet, dass ihre Anwendung und Entwicklung zumindest zum jetzigen Zeitpunkt noch von der Gesellschaft selbst abhängt. Dies ist wie eine Zellteilung in unserem Körper, die es den Organismen ermöglicht, zu wachsen, sich anzupassen, sich zu erholen und zu reparieren, was uns das Überleben ermöglicht. Aber sobald dieser Mechanismus von Krebszellen gekapert wird und es zu einem abnormalen Zellwachstum kommt, wird es für den menschlichen Körper tödlich sein. Wir müssen weder über Krebs reden, noch können wir uns zurücklehnen und entspannen. Stattdessen müssen wir einen Weg finden, mit den Zellen klarzukommen und mutierte Zellen zu eliminieren, ohne das normale Wachstum zu beeinträchtigen.
Da wir künstliche Intelligenz nicht zerstören können und auch nicht von ihr eliminiert werden wollen, sollten wir dies nicht als Kampf um Kontrolle betrachten, sondern mehr über die Logik der Biologie lernen und lernen, miteinander zu koexistieren.