Il y a 70 ans, au Massachusetts Institute of Technology aux États-Unis, une célèbre conversation a révélé notre situation difficile actuelle. A cette époque, Marvin Minsk, pionnier de la recherche sur l'intelligence artificielle, déclarait : « Nous voulons donner de l'intelligence aux machines et leur faire prendre conscience d'elles-mêmes. » Douglas Engelbart, qui a inventé le traitement de texte et la souris, répondait : « Vous voulez donner aux machines. » tant de bonnes choses ? Alors qu'allez-vous faire pour l'humanité ?
Aujourd'hui encore, cela semble être devenu un « nuage noir » qui pèse sur tous les êtres humains : de « Terminator » à « Matrix » en passant par « Moi, Robot » et « Westworld », d'innombrables films de science-fiction ont décrit un phénomène extrêmement inquiétant. l'avenir - les machines qui auront pris conscience d'elles-mêmes prendront à leur tour le contrôle des êtres humains, voire les élimineront. Ces dernières années, le développement rapide de l’intelligence artificielle (IA) a amené de nombreuses personnes à s’inquiéter de plus en plus de savoir si les humains seront asservis par l’intelligence artificielle ?
Pas seulement « un autre outil »
Le nouveau livre de Yuval Harari "Au-delà de l'Homo Sapiens" s'en méfie et croit fermement que cela est tout à fait possible : les humains ont créé des forces qu'ils ne savent pas contrôler, une fois que ces nouvelles choses échapperont au contrôle humain, elles les asserviront ou les extermineront à leur tour. humanité. Selon lui, l'intelligence non humaine engendrée par les réseaux informatiques a donné naissance à la première technologie de l'histoire capable de prendre des décisions par elle-même et de créer de nouvelles idées, susceptibles d'avoir un impact subversif sur l'ordre et le système de la société humaine actuelle.
Un impact disruptif ? Bien sûr, il doit y en avoir. Sunstein prévient depuis longtemps dans son livre "Network Republic" qu'Internet n'est pas seulement une technologie. Ses caractéristiques entraîneront un "filtrage collaboratif" et une "polarisation de groupe", permettant à de plus en plus de personnes de s'entendre uniquement. le fonctionnement de la société en crise. Les cocons d’informations que nous voyons aujourd’hui l’ont confirmé, nous savons tous que c’est mauvais, mais la question est de savoir à quel point est-ce grave ?
Selon Harari, les défis de l'intelligence artificielle vont bien au-delà, car elle n'est pas simplement « un autre outil », mais a le potentiel de maîtriser le réseau d'information pour la communication humaine. Quelle que soit la puissance des nouveaux outils dans le passé, la décision de les utiliser revenait aux humains. Cependant, l’intelligence artificielle a changé la donne pour la première fois. C'est précisément la faiblesse fatale de la civilisation humaine : « Bien que les humains puissent établir des réseaux de coopération à grande échelle pour acquérir un pouvoir énorme, la façon dont ces réseaux sont construits signifie que les humains sont souvent imprudents dans leur utilisation de ces pouvoirs. Notre incapacité à contrôler judicieusement ces réseaux risque notre propre destruction.
L’émergence de la civilisation humaine repose sur la coopération, et la coopération doit s’appuyer sur l’échange d’informations, sinon aucune grande société ne sera possible. De ce point de vue, toutes les formes organisationnelles de l’histoire reposent principalement sur un ensemble de mots que les membres respectent collectivement. Il s'agit d'une « réalité intersubjective » : tant que les membres croient qu'elle est « vraie », cela est vrai pour eux, et la coopération et la confiance reposent toutes sur ce consensus tacite.
Voici maintenant le problème : l'intelligence artificielle fournit non seulement un support technique pour la gestion centralisée de l'information, mais elle peut également créer de nouvelles idées par elle-même, grâce à un apprentissage indépendant, l'algorithme peut apprendre des choses qui ne sont pas écrites dans le programme, et peut également le faire. prendre des décisions par lui-même. Ce que les dirigeants n’avaient pas prévu. Plus nous parlons aux ordinateurs et plus nous révélons d’informations, à terme, les programmes robotiques seront capables de leur donner des opinions, d’influencer nos opinions et de manipuler la société humaine. « Les ordinateurs n’ont pas besoin d’envoyer des robots tueurs pour tirer sur les gens, ils en ont juste besoin. il suffit de manipuler un être humain pour appuyer sur la gâchette.
Pour éviter une scène aussi terrible, le plus important est de disposer d’un mécanisme d’autocorrection solide permettant d’identifier et de résoudre constamment les problèmes. Cependant, comme cela est courant dans les programmes informatiques, la révision des bugs conduit souvent à de nouveaux bugs : « Bien que le mécanisme d'auto-correction soit propice à la recherche de la vérité, il augmentera considérablement le coût du maintien de l'ordre. Le mécanisme d'auto-correction est trop puissant. Des doutes, des désaccords, des conflits et des divisions surgissent souvent. "L'intelligence artificielle ne change peut-être pas le modèle de l'évolution sociale, mais elle peut faire aller cette évolution dans une direction dangereuse.
À première vue, il s’agit d’intelligence artificielle et de réseaux d’information. En réalité, la question est de savoir si et comment le système social actuel peut faire face à un tel impact. Harari a souligné l’urgence de la crise mais a peut-être exagéré le danger. Il craint beaucoup que le « rideau de silicium » divise les réseaux informatiques humains et crée des cocons d'informations difficiles à communiquer entre eux. Mais d'un autre côté, dans un monde pluraliste, n'est-il pas aussi naïf de croire que « le » le monde est plat" La foi ? Le cocon de l’information apporte certes une clôture, mais il constitue également un refuge pour diverses cultures. Dans le cas contraire, nous risquons d’assister à la disparition d’un grand nombre de cultures de niche. Bien que ce type de concentration d'informations semble à première vue béni par la technologie, au fil du temps, ce type d'auto-isolement peut-il réellement avoir un pouvoir endogène plus fort et finalement résister à un réseau ouvert et dynamique ?
L’intelligence artificielle va-t-elle devenir incontrôlable ?
Il est indéniable que cet avertissement est effectivement nécessaire, d’autant plus que la technologie précède souvent la conscience sociale et que trop de gens sont incapables de comprendre ce que signifie réellement l’intelligence artificielle. Il y a trente ans, le membre du Congrès américain Edward Markey a déclaré ceci : « La bonne nouvelle en provenance de Washington est que tout le monde au Congrès soutient l'idée d'une autoroute de l'information. La mauvaise nouvelle est que personne ne sait ce que cela signifie. » Cela semble être une moquerie. la bêtise des politiciens, mais en fait, toute chose nouvelle a cette caractéristique. Quand l'imprimerie est née, les gens n'imaginaient pas qu'elle donnerait lieu à d'innombrables livres, à des archives, à l'invention de billets de banque et à bien d'autres encore. que les outils de chat des logiciels sociaux ont évolué jusqu'à présent et ont tellement de fonctions que nous ne pouvons pas vivre sans eux.
En d’autres termes, l’impact des choses nouvelles apparaît progressivement, et personne ne peut prévoir dès le départ quelles conséquences sociales complexes et de grande envergure cela aura finalement. Harari a raison sur un point : la clé réside dans le mécanisme d’autocorrection de la société, plutôt que de réagir de manière excessive lorsqu’il y a un problème, et de vouloir étouffer cette nouvelle invention dangereuse dès le berceau pour éviter qu’elle ne provoque de plus grands désastres ; opinion Nous sommes très inquiets du fait que l'auto-évolution de l'intelligence artificielle échappe au contrôle humain. Au départ, nous voulions obtenir A, mais nous avons finalement obtenu B - cependant, pourquoi les « conséquences involontaires » ne peuvent-elles pas être bonnes ?
L’inquiétude quant aux éventuelles réactions négatives des créations humaines est une longue tradition dans la culture occidentale, qui découle de la logique de l’opposition binaire entre sujet et objet. Le « monstre de Frankenstein » décrit dans l’œuvre pionnière de la science-fiction moderne est une telle histoire. Cette préoccupation est certes nécessaire, mais cette sorte d'« évolution contrôlée » signifie-t-elle aussi que la limite supérieure de l'intelligence humaine fixera un plafond au progrès technologique ?
Kevin Kelly prévoit également dans « Hors de contrôle : le destin final et la fin de toute l'humanité » que les humains pourraient perdre le contrôle des machines : « En libérant le pouvoir de la vie dans les machines que nous créons, nous perdons le contrôle de leur contrôle. et obtenir des surprises et des surprises. Ensuite, il y a le dilemme auquel tous les créateurs doivent faire face : ils ne seront plus pleinement propriétaires de leur création la plus fière. " Cependant, il ne le fait pas. Il ne croit pas qu'un tel avenir mérite d'être craint. " au contraire, il estime qu'il est nécessaire d'abandonner un certain contrôle et de laisser les machines simuler « l'évolution naturelle » par elles-mêmes : « L'évolution peut nous permettre de dépasser notre propre capacité de planification ; un état plus parfait ; l’évolution peut prendre soin du monde dont nous ne pouvons pas prendre soin. Mais… le prix de l’évolution est la perte de contrôle. »
Apprenez à coexister les uns avec les autres
Certes, l’intelligence artificielle peut avoir un impact profond sur le système social actuel, mais elle doit cibler la société elle-même plutôt que la technologie, car les caractéristiques des réseaux informatiques ne dépendent souvent pas de la technologie, mais des caractéristiques propres des réseaux sociaux. Pour parler franchement, quel type de société donnera naissance à quel type de réseaux d’information et d’applications d’intelligence artificielle ? Autant être franc et ne pas blâmer la technologie.
Cela ne signifie pas que nous n’avons pas à craindre que l’intelligence artificielle devienne incontrôlable, mais cela signifie qu’au moins à ce stade, son application et son développement dépendent encore de la société elle-même. C'est comme la division cellulaire dans notre corps, permettant aux organismes de croître, de s'adapter, de se rétablir et de se réparer, nous permettant ainsi de survivre. Mais une fois que ce mécanisme est détourné par les cellules cancéreuses et qu’une croissance cellulaire anormale se produit, cela sera fatal au corps humain. Nous n’avons pas besoin de parler du cancer, ni de nous asseoir et de nous détendre. Nous devons plutôt trouver un moyen de nous entendre avec les cellules, en éliminant les cellules mutantes sans nuire à leur croissance normale.
Puisque nous ne pouvons pas détruire l’intelligence artificielle et que nous ne voulons pas non plus être éliminés par elle, au lieu de voir cela comme une lutte pour le contrôle, nous devrions en apprendre davantage sur la logique de la biologie et apprendre à coexister les uns avec les autres.