Hace 70 años, en el Instituto Tecnológico de Massachusetts en Estados Unidos, hubo una famosa conversación que reveló nuestra situación actual. En aquel momento, Marvin Minsk, un pionero en la investigación de la inteligencia artificial, declaró: "Queremos dotar a las máquinas de inteligencia y hacerlas conscientes de sí mismas". Douglas Engelbart, que inventó el procesador de textos y el ratón, respondió: "Se quiere dar a las máquinas". tantas cosas buenas. Entonces, ¿qué vas a hacer por la humanidad?
Hasta el día de hoy, esto parece haberse convertido en una "nube oscura" que se cierne sobre todos los seres humanos: desde "Terminator" hasta "The Matrix", pasando por "Yo, Robot" y "Westworld", innumerables películas de ciencia ficción han descrito una situación extremadamente preocupante. futuro: las máquinas que han adquirido conciencia de sí mismas se apoderarán de los seres humanos o incluso los eliminarán. En los últimos años, el rápido desarrollo de la inteligencia artificial (IA) ha hecho que muchas personas se preocupen cada vez más por si los humanos serán esclavizados por la inteligencia artificial.
No sólo “otra herramienta”
El nuevo libro de Yuval Harari "Más allá del Homo Sapiens" es bastante cauteloso con esto y cree firmemente que esto es muy posible: los humanos han creado fuerzas que no saben cómo controlar. Una vez que estas cosas nuevas escapen del control humano, a su vez esclavizarán o exterminarán. humanidad. En su opinión, la inteligencia no humana generada por las redes informáticas ha dado lugar a la primera tecnología de la historia que puede tomar decisiones por sí misma y crear nuevas ideas, que pueden tener un impacto subversivo en el orden y el sistema de la sociedad humana actual.
¿Impacto disruptivo? Por supuesto que debe haberlo. Sunstein ha advertido durante mucho tiempo en su libro "Network Republic" que Internet no es sólo una tecnología. Sus características provocarán un "filtrado colaborativo" y una "polarización grupal", lo que permitirá que cada vez más personas se escuchen solo a sí mismas. el funcionamiento de la sociedad en crisis. Los capullos de información que estamos viendo hoy lo han confirmado, todos sabemos que es malo, pero la pregunta es ¿qué tan malo es?
En opinión de Harari, los desafíos de la inteligencia artificial van mucho más allá, porque no es sólo "una herramienta más", sino que tiene el potencial de dominar la red de información para la comunicación humana. Por muy poderosas que fueran las nuevas herramientas en el pasado, la decisión de utilizarlas recaía en los humanos. Sin embargo, la inteligencia artificial ha cambiado esto por primera vez. Ésta es precisamente la debilidad fatal de la civilización humana: "Aunque los humanos pueden establecer redes de cooperación a gran escala para obtener un poder tremendo, la forma en que se construyen estas redes significa que los humanos a menudo son imprudentes en el uso de estos poderes, una vez". Si no controlamos sabiamente dichas redes, corremos el riesgo de nuestra propia destrucción.
El surgimiento de la civilización humana depende de la cooperación, y la cooperación debe basarse en el intercambio de información; de lo contrario, no será posible una sociedad grande. Desde esta perspectiva, todas las formas organizativas de la historia se basan principalmente en un conjunto de palabras que los miembros respetan colectivamente. Ésta es una "realidad intersubjetiva": mientras los miembros crean que es "verdad", lo es para ellos, y la cooperación y la confianza se basan en este consenso tácito.
Ahora aquí está el problema: la inteligencia artificial no sólo proporciona soporte técnico para la gestión centralizada de la información, sino que también puede crear nuevas ideas por sí sola. A través del aprendizaje independiente, el algoritmo puede aprender cosas que no están escritas en el programa, y también puede hacerlo. tomar decisiones por sí solo. Cuanto más hablemos con las computadoras y más información revelemos, eventualmente los programas robóticos podrán darles opiniones, influir en nuestras opiniones y manipular la sociedad humana. “Las computadoras no necesitan enviar robots asesinos para disparar a la gente, sólo necesitan. Simplemente manipular a un ser humano para que apriete el gatillo”.
Para evitar una escena tan terrible, lo más importante es contar con un fuerte mecanismo de autocorrección para identificar y resolver problemas constantemente. Sin embargo, como es común en los programas de computadora, la revisión de errores a menudo conduce a nuevos errores: "Aunque el mecanismo de autocorrección conduce a la búsqueda de la verdad, aumentará en gran medida el costo de mantener el orden. El mecanismo de autocorrección es demasiado poderoso". A menudo surgen dudas, desacuerdos, conflictos y divisiones. "La inteligencia artificial puede no cambiar el patrón de evolución social, pero puede hacer que esta evolución vaya directamente en una dirección peligrosa.
A primera vista, se trata de inteligencia artificial y redes de información. De hecho, la preocupación es si el sistema social actual podrá hacer frente a tal impacto y cómo hacerlo. Harari destacó la urgencia de la crisis, pero puede haber exagerado el peligro. Le preocupa mucho que la "cortina de silicona" divida las redes informáticas humanas y cree capullos de información en los que sea difícil comunicarse entre sí. Pero, por otro lado, en un mundo pluralista, ¿no es también ingenuo creer que "la cortina de silicona"? el mundo es plano" ¿Fe? El capullo de información ciertamente aporta un cierre, pero también proporciona un refugio para diversas culturas. De lo contrario, podemos ser testigos de la desaparición de un gran número de culturas especializadas. Aunque a primera vista ese tipo de concentración de información parece estar bendecida por la tecnología, con el tiempo, ¿puede este tipo de autoaislamiento tener realmente un poder endógeno más fuerte y eventualmente resistir una red abierta vibrante?
¿Se saldrá de control la inteligencia artificial?
Es innegable que su advertencia es realmente necesaria, especialmente porque la tecnología a menudo precede a la conciencia social y demasiadas personas son incapaces de comprender lo que realmente significa la inteligencia artificial. Hace treinta años, el congresista estadounidense Edward Markey dijo lo siguiente: "La buena noticia de Washington es que todos en el Congreso apoyan la idea de una superautopista de la información. La mala noticia es que nadie sabe lo que significa". la estupidez de los políticos, pero de hecho, cualquier Cualquier cosa nueva tiene esta característica. Cuando nació la imprenta, la gente nunca imaginó que generaría innumerables libros, archivos e inventaría billetes. ¿Cuántas personas podrían imaginar que las herramientas de chat del software social han evolucionado hasta el día de hoy? ¿Su multifuncionalidad hace que nuestra vida sea inseparable de ellos?
En otras palabras, el impacto de cosas nuevas surge gradualmente y nadie puede adivinar desde el principio qué consecuencias sociales complejas y de gran alcance tendrá eventualmente. Harari tiene razón en una cosa: la clave está en el mecanismo de autocorrección de la sociedad, en lugar de reaccionar exageradamente cuando hay un problema, y querer estrangular este nuevo y peligroso invento en la cuna para evitar que cause desastres mayores en la suya; opinión Estamos muy preocupados de que la autoevolución de la inteligencia artificial esté fuera del control humano. Originalmente queríamos obtener A, pero terminamos obteniendo B; sin embargo, ¿por qué las "consecuencias no deseadas" no pueden ser buenas?
La preocupación por el eventual retroceso de las creaciones humanas tiene una larga tradición en la cultura occidental, que surge de la lógica de la oposición binaria entre sujeto y objeto. El "monstruo de Frankenstein" representado en la obra pionera de la ciencia ficción moderna es una de esas historias. Esta preocupación es ciertamente necesaria, pero ¿significa también este tipo de "evolución controlada" que el límite superior de la inteligencia humana fijará un techo para el progreso tecnológico?
Kevin Kelly también prevé en "Fuera de control: El destino final y el fin de toda la humanidad" que los humanos pueden perder el control de las máquinas: "Al liberar el poder de la vida en las máquinas que creamos, perdemos el control de Su control. Después de que ellas ganan Lo salvaje y obtener algunas sorpresas y sorpresas, hay un dilema que todos los creadores deben enfrentar: ya no podrán poseer lo mejor de sí mismos. Una creación orgullosa”. Sin embargo, no cree que haya que temer un futuro así, sino que cree en la necesidad de ceder parte del control y dejar que las máquinas simulen por sí solas la “evolución natural”: “La evolución puede permitirnos superar nuestra propia evolución. propia capacidad de planificación; podemos crear cosas que no podemos; la evolución puede alcanzar un estado más perfecto; la evolución puede cuidar del mundo que nosotros no podemos cuidar. Pero... el precio de la evolución es la pérdida de control.
Aprende a convivir unos con otros.
Sí, la inteligencia artificial puede tener un impacto profundo en el sistema social actual, pero debe apuntar a la sociedad misma y no a la tecnología, porque las características de las redes informáticas a menudo no dependen de la tecnología, sino de las propias redes sociales. Para decirlo sin rodeos, qué tipo de sociedad dará lugar a qué tipo de redes de información y aplicaciones de inteligencia artificial. También podríamos ser francos y no culpar a la tecnología.
Esto no significa que no debamos preocuparnos de que la inteligencia artificial se salga de control, pero sí que, al menos en esta etapa, su aplicación y desarrollo todavía dependen de la propia sociedad. Esto es como la división celular en nuestro cuerpo, lo que permite que los organismos crezcan, se adapten, se recuperen y se reparen, permitiéndonos sobrevivir. Pero una vez que este mecanismo sea secuestrado por las células cancerosas y se produzca un crecimiento celular anormal, será fatal para el cuerpo humano. No necesitamos hablar de cáncer ni podemos sentarnos y relajarnos. En cambio, necesitamos encontrar una manera de llevarnos bien con las células, eliminando las células mutantes sin dañar el crecimiento normal.
Dado que no podemos destruir la inteligencia artificial, ni queremos ser eliminados por ella, entonces, en lugar de ver esto como una lucha por el control, deberíamos aprender más sobre la lógica de la biología y aprender a coexistir unos con otros.