Há 70 anos, no Instituto de Tecnologia de Massachusetts, nos Estados Unidos, houve uma conversa famosa que revelou a nossa situação atual. Naquela época, Marvin Minsk, um pioneiro na pesquisa de inteligência artificial, declarou: “Queremos dar inteligência às máquinas e torná-las autoconscientes”. Douglas Engelbart, que inventou o processamento de texto e o mouse, respondeu: “Você quer dar às máquinas”. tantas coisas boas. Então o que você vai fazer pela humanidade?
Até hoje, isso parece ter se tornado uma “nuvem negra” pairando sobre todos os seres humanos: de “O Exterminador do Futuro” a “Matrix”, a “Eu, Robô” e “Westworld”, inúmeros filmes de ficção científica descreveram uma situação extremamente preocupante. futuro - as máquinas que adquiriram autoconsciência irão, por sua vez, assumir o controle dos seres humanos ou até mesmo eliminá-los. Nos últimos anos, o rápido desenvolvimento da inteligência artificial (IA) deixou muitas pessoas cada vez mais preocupadas se os humanos serão escravizados pela inteligência artificial.
Não apenas “mais uma ferramenta”
O novo livro de Yuval Harari, “Beyond Homo Sapiens”, é bastante cauteloso em relação a isto e acredita firmemente que isto é muito possível: os humanos criaram forças que não sabem como controlar. humanidade. Na sua opinião, a inteligência não-humana gerada pelas redes informáticas deu origem à primeira tecnologia da história que pode tomar decisões por si própria e criar novas ideias, que podem ter um impacto subversivo na ordem e no sistema da sociedade humana actual.
Impacto perturbador? Claro que deve haver. Sunstein há muito alerta em seu livro "Network Republic" que a Internet não é apenas uma tecnologia. Suas características causarão "filtragem colaborativa" e "polarização de grupo", permitindo que mais e mais pessoas ouçam apenas a si mesmas. o funcionamento da sociedade em crise. Os casulos de informação que vemos hoje confirmaram isto, todos sabemos que é mau, mas a questão é até que ponto é mau?
Na visão de Harari, os desafios da inteligência artificial vão muito além disso, porque ela não é apenas “mais uma ferramenta”, mas tem potencial para dominar a rede de informações para a comunicação humana. Não importa quão poderosas fossem as novas ferramentas no passado, a decisão de usá-las cabia aos humanos. No entanto, a inteligência artificial mudou isso pela primeira vez. Esta é precisamente a fraqueza fatal da civilização humana: “Embora os humanos possam estabelecer redes de cooperação em grande escala para obter um poder tremendo, a forma como essas redes são construídas significa que os humanos são muitas vezes imprudentes no uso desses poderes”. A nossa incapacidade de controlar sabiamente essas redes arrisca a nossa própria destruição.
A emergência da civilização humana depende da cooperação, e a cooperação deve basear-se na troca de informações, caso contrário, nenhuma grande sociedade será possível. Nesta perspectiva, todas as formas organizacionais na história baseiam-se principalmente num conjunto de palavras que os membros respeitam colectivamente. Esta é uma “realidade intersubjetiva”: enquanto os membros acreditarem que ela é “verdadeira”, é verdade para eles, e a cooperação e a confiança baseiam-se neste consenso tácito.
Agora, aqui está o problema: a inteligência artificial não apenas fornece suporte técnico para o gerenciamento centralizado de informações, mas também pode criar novas ideias por conta própria. Por meio do aprendizado independente, o algoritmo pode aprender coisas que não estão escritas no programa, e também pode. tomar decisões por conta própria. Algo que os executivos não previram. Quanto mais falamos com os computadores e mais informação revelamos, eventualmente os programas robóticos serão capazes de lhes dar opiniões, influenciar as nossas opiniões e manipular a sociedade humana. “Os computadores não precisam de enviar robôs assassinos para disparar sobre as pessoas, apenas precisam. apenas manipular um ser humano para puxar o gatilho.”
Para evitar uma cena tão terrível, o mais crítico é ter um forte mecanismo de autocorreção para identificar e resolver problemas constantemente. No entanto, como é comum em programas de computador, a revisão de bugs geralmente leva a novos bugs: "Embora o mecanismo de autocorreção conduza à busca da verdade, ele aumentará muito o custo de manutenção da ordem. O mecanismo de autocorreção é muito poderoso Muitas vezes surgem dúvidas, divergências, conflitos e divergências "A inteligência artificial pode não mudar o padrão da evolução social, mas pode fazer com que esta evolução siga directamente numa direcção perigosa.
À primeira vista, trata-se de inteligência artificial e de redes de informação. Na verdade, a preocupação é saber se e como o sistema social atual pode lidar com tal impacto. Harari destacou a urgência da crise, mas pode ter exagerado o perigo. Ele está muito preocupado que a “cortina de silício” divida as redes de computadores humanos e crie casulos de informação que são difíceis de comunicar entre si. Mas, por outro lado, num mundo pluralista, não é também ingénuo acreditar que “o. o mundo é plano" Fé? O casulo de informação encerra certamente, mas também proporciona um abrigo para diversas culturas. Caso contrário, poderemos testemunhar o desaparecimento de um grande número de culturas de nicho. Embora esse tipo de concentração de informações pareça, à primeira vista, abençoado pela tecnologia, com o tempo, esse tipo de auto-isolamento pode realmente ter um poder endógeno mais forte e, eventualmente, resistir a uma rede aberta vibrante?
A inteligência artificial ficará fora de controle?
É inegável que o seu aviso é realmente necessário, especialmente porque a tecnologia muitas vezes precede a consciência social e muitas pessoas são incapazes de perceber o que a inteligência artificial realmente significa. Trinta anos atrás, o congressista norte-americano Edward Markey disse o seguinte: “A boa notícia de Washington é que todos no Congresso apoiam a ideia de uma superestrada da informação. A má notícia é que ninguém sabe o que isso significa. a estupidez dos políticos, mas na verdade qualquer coisa nova tem essa característica. Quando a impressão nasceu, as pessoas nunca imaginaram que ela daria origem a inúmeros livros, arquivos e à invenção das notas e de vários mais. que as ferramentas de chat do software social evoluíram tanto e têm tantas funções que não podemos viver sem elas.
Por outras palavras, o impacto das coisas novas emerge gradualmente e ninguém pode adivinhar desde o início quais as consequências sociais complexas e de longo alcance que acabará por ter. Harari está certo sobre uma coisa: a chave está no mecanismo de autocorreção da sociedade, em vez de reagir exageradamente quando há um problema, e desejar estrangular esta nova invenção perigosa no berço para evitar que cause desastres maiores; opinião Estamos muito preocupados com o fato de a autoevolução da inteligência artificial estar fora do controle humano. Originalmente, queríamos obter A, mas acabamos obtendo B - no entanto, por que as "consequências não intencionais" não podem ser boas?
A preocupação com o eventual retrocesso das criações humanas tem uma longa tradição na cultura ocidental, decorrente da lógica da oposição binária entre sujeito e objeto. O “Monstro de Frankenstein” retratado na obra pioneira da ficção científica moderna é uma dessas histórias. Esta preocupação é certamente necessária, mas será que este tipo de “evolução controlada” também significa que o limite superior da inteligência humana estabelecerá um limite máximo para o progresso tecnológico?
Kevin Kelly também prevê em "Out of Control: The Final Fate and End of All Humanity" que os humanos podem perder o controle das máquinas: "Ao liberar o poder da vida nas máquinas que criamos, perdemos o controle de Seu controle. Eles ganham selvageria e ganhar algumas surpresas e surpresas. Depois, há o dilema que todos os criadores devem enfrentar: eles não serão mais donos de sua criação mais orgulhosa "No entanto, ele não o faz. Ele não acredita que valha a pena temer tal futuro. pelo contrário, ele acredita que é necessário abdicar de algum controlo e deixar que as máquinas simulem a "evolução natural" por si próprias: "A evolução pode permitir-nos superar a nossa própria capacidade de planeamento; a evolução pode esculpir coisas que não podemos fazer; a evolução pode alcançar um estado mais perfeito; a evolução pode cuidar do mundo do qual não podemos cuidar.
Aprenda a coexistir uns com os outros
Sim, a inteligência artificial pode ter um impacto profundo no sistema social actual, mas precisa de visar a própria sociedade e não a tecnologia, porque as características das redes de computadores muitas vezes não dependem da tecnologia, mas sim das próprias características das redes sociais. Para ser franco, é melhor sermos francos e não culparmos a tecnologia.
Isto não significa que não precisamos de nos preocupar com a possibilidade de a inteligência artificial ficar fora de controlo, mas significa que, pelo menos nesta fase, a sua aplicação e desenvolvimento ainda dependem da própria sociedade. Isto é como a divisão celular no nosso corpo, permitindo que os organismos cresçam, se adaptem, recuperem e se reparem, permitindo-nos sobreviver. Mas uma vez que esse mecanismo seja sequestrado pelas células cancerígenas e ocorra um crescimento celular anormal, será fatal para o corpo humano. Não precisamos de falar sobre o cancro, nem podemos sentar-nos e relaxar. Em vez disso, precisamos de encontrar uma forma de conviver com as células, eliminando as células mutantes sem prejudicar o crescimento normal.
Uma vez que não podemos destruir a inteligência artificial, nem queremos ser eliminados por ela, então, em vez de vermos isto como uma luta pelo controlo, deveríamos aprender mais sobre a lógica da biologia e aprender a coexistir uns com os outros.