O Prémio Nobel deste ano atribuiu prémios nas áreas da física e da química às realizações da IA. O que significa isto e que impacto terá? Demis Hassabis expôs as suas próprias opiniões nesta entrevista exclusiva.
Em outubro, o cofundador e CEO da DeepMind, Demis Hassabis, tornou-se um dos três co-vencedores do Prêmio Nobel de Química pela AlphaFold.
Como software de inteligência artificial, o AlphaFold resolve um problema colocado pela comunidade biológica há 50 anos: prever a estrutura de cada proteína conhecida.
Na verdade, AlphaFold, este modelo inovador, é apenas parte das conquistas da DeepMind. Nos 15 anos desde a sua criação, o DeepMind tornou-se um dos laboratórios de IA mais importantes do mundo.
Embora algumas considerações de negócios tenham sido adicionadas após a aquisição pelo Google e a fusão com o Google Brain, eles ainda estão se concentrando nos problemas mais complexos e fundamentais da ciência e da engenharia e, em última análise, projetando uma IA poderosa que pode imitar ou até mesmo substituir as habilidades cognitivas humanas.
Menos de 24 horas depois de ganhar o Prêmio Nobel, Demis Hassabis aceitou uma entrevista com a repórter Madhumita Murgia do Financial Times e discutiu os principais problemas que a DeepMind resolverá a seguir, o papel da IA no progresso científico e seus próprios pensamentos sobre o caminho para a AGI. Previsão do cliente potencial.
Demis Hassabis na sede do Google DeepMind em Londres
O próximo desafio da AI4Science
O progresso relacionado do AlphaFold 3 demonstra, até certo ponto, o próximo passo da DeepMind no campo da biologia – compreender as interações dentro dos organismos, modelar todo o caminho e até mesmo construir uma célula virtual.
Além disso, através dos esforços da Isomórfica, subsidiária da DeepMind, eles também estão entrando no campo da descoberta de medicamentos - projetando novos compostos, encontrando locais de ligação e prevendo as propriedades, absorção, toxicidade, etc.
Actualmente, a Isomórfica também cooperou com a Eli Lilly, Novartis e outras empresas para realizar 6 projectos de investigação e desenvolvimento de medicamentos, que deverão fazer progressos clínicos nos próximos anos. ajudando assim a curar algumas doenças.
Além da área de biologia, Hassabis também expressou que está muito entusiasmado com o trabalho na área de design de materiais.
No ano passado, eles publicaram um artigo na Nature propondo uma ferramenta de IA chamada GNoME para atingir o design de material de nível AlphaFold 1 e descobriram um total de 2,2 milhões de novos cristais na próxima etapa, eles precisam trabalhar duro para atingir o nível AlphaFold 2;
Endereço do artigo: https://www.nature.com/articles/s41586-023-06735-9
Em termos de matemática, AlphaProof e AlphaGeometry alcançaram o nível da medalha de prata da IMO este ano. Nos próximos anos, DeepMind tentará usar o poder da IA para realmente resolver uma importante conjectura matemática.
Para as áreas de energia e clima, o modelo Graphcast publicado na Science no ano passado pode prever o tempo para os próximos 10 dias com uma precisão sem precedentes em um minuto.
Endereço do artigo: https://www.science.org/token/author-tokens/ST-1550/full
A tecnologia envolvida poderá ajudar na modelação climática, o que é muito importante em áreas como o combate às alterações climáticas e a otimização das redes elétricas.
Pode-se ver que o plano futuro da DeepMind se concentra mais na aplicação e na prática de engenharia, com o objetivo de transformar ainda mais a tecnologia em trabalho que pode afetar o mundo real, em vez de pura pesquisa básica.
A este respeito, Hassabis disse que o "dobramento de proteínas" é um "desafio" "inesperado" e não pode exigir que todos os problemas tenham tal teor de ouro.
O problema do "dobramento de proteínas" é tão central e importante que equivale ao último teorema de Fermat no campo da biologia. No entanto, infelizmente, não existem muitos problemas que sejam suficientemente importantes e explorados por tempo suficiente para serem chamados de problemas. "desafio."
O Prêmio Nobel será um divisor de águas para a IA
Os Prêmios Nobel de Física e Química deste ano foram concedidos a estudiosos de IA, um após o outro. É interessante, mas ninguém sabe dizer por que o comitê de premiação tomou tal decisão.
Como Hassabis entende isso?
Ele disse que isto é muito parecido com uma "declaração" emitida deliberadamente pelo comité, e também se tornará um divisor de águas para a IA, marcando que a sua maturidade tecnológica foi suficientemente reconhecida para auxiliar a descoberta científica.
AlphaFold é o melhor exemplo, enquanto os prêmios de Hinton e Hopfield são para trabalhos de algoritmos mais básicos e de baixo nível.
Hassabis disse que espera que, daqui a 10 anos, o AlphaFold anuncie uma nova era de ouro da descoberta científica em todos esses campos diferentes.
Isto também levanta uma questão interessante: com ferramentas como o AlphaFold, os cientistas já não precisam de gastar muito tempo e energia a fazer previsões. Isto significa que devemos explorar novos campos? Ou até mesmo mudar a forma como você aprende conceitos científicos?
Deve-se notar que os sistemas de IA são uma nova classe única de ferramentas. Eles têm algumas funções inerentes e, portanto, não se enquadram na classificação tradicional de ferramentas.
Embora ferramentas como o AlphaFold atualmente só possam fazer previsões, em certo sentido, a previsão também faz parte da “compreensão”. Se você pode prever, isso traz compreensão.
Mesmo que o resultado previsto seja suficientemente importante, como a estrutura de uma proteína, então ele é valioso por si só.
De uma perspectiva mais ampla, a ciência contém muitos níveis de “abstração”.
Por exemplo, todo o campo da química é baseado na física. Você não precisa entender todos os princípios físicos, como a mecânica quântica, para falar sobre compostos atômicos e compreender a química em seu próprio nível abstrato.
Para o campo da biologia, podemos estudar a vida, mas ainda não sabemos como a vida evoluiu ou surgiu, e nem conseguimos definir corretamente o conceito de “vida”.
Da mesma forma, a IA é como uma camada de abstração que as pessoas que constroem programas e redes entendem no nível físico, mas as previsões que surgem são como propriedades emergentes que podemos prever por conta própria em um nível científico.
AGI está se aproximando, entender é importante
Quer se trate de ciências naturais ou de sistemas de inteligência artificial, a “compreensão” é muito importante.
A inteligência artificial é uma disciplina da engenharia, o que significa que você deve primeiro construir um sistema antes de poder estudar e compreender o objeto, embora os fenômenos nas ciências naturais não precisem ser fabricados, eles existem naturalmente;
Embora os sistemas de IA sejam artefactos de engenharia, isso não significa que sejam mais fáceis de estudar do que os fenómenos naturais. Pode até esperar-se que sejam tão difíceis de compreender, desmontar e desconstruir como as redes neurais biológicas.
Isso está acontecendo agora, mas fizemos alguns progressos. Por exemplo, existe um campo especializado chamado “interpretação mecanicista”, que utiliza conceitos e ferramentas da neurociência para analisar o “cérebro virtual” do sistema de IA.
Hassabis está muito otimista quanto à explicabilidade da IA e acredita que grandes progressos serão feitos na compreensão dos sistemas de IA nos próximos anos.
É claro que a IA também pode aprender a explicar-se. Imagine combinar o AlphaFold com um sistema de proficiência linguística para que ele possa prever e explicar o que está fazendo ao mesmo tempo.
Atualmente, muitos laboratórios líderes estão estreitando o escopo de sua exploração e se concentrando no dimensionamento de Transformers. É inegável que esta é uma boa direção e se tornará um componente chave do sistema AGI final, mas a DeepMind continuará a persistir na exploração e na pesquisa inovadora.
Na verdade, a DeepMind possui a plataforma de pesquisa mais ampla e profunda até o momento para inventar a próxima geração de Transformers como parte de seu legado científico.
Estas explorações são necessárias, em parte, para ver até onde podemos ir e saber o que precisa ser explorado.
Explorar novas ideias e levar ideias interessantes ao seu pleno potencial são importantes. Se você não compreender as limitações absolutas de suas ideias atuais, não saberá quais avanços são necessários.
A longa janela de contexto do LLM é um bom exemplo. O contexto do token 2M feito pelo Google Gemini 1.5 Pro é uma inovação interessante que ninguém mais pode copiar ainda.
Escritório do Google DeepMind em Londres
Somente compreendendo a IA podemos ter uma AGI segura
Hassabis e muitos líderes de tecnologia previram que levaria de 5 a 20 anos para realizar a AGI.
Se quisermos utilizar métodos científicos para atingir este objetivo, isso significa mais tempo, energia e reflexão, concentrando-nos em ferramentas de compreensão e análise de IA, benchmarking e avaliação, exigindo 10 vezes o investimento atual.
Estes contributos devem provir não apenas de empresas tecnológicas, mas também de agências de segurança da IA, do meio académico e da sociedade civil. Precisamos de compreender o que os sistemas de IA estão a fazer, as suas limitações e como controlar e proteger estes sistemas.
A “compreensão” é uma parte importante do método científico, mas falta na engenharia pura. A engenharia apenas observa – essa abordagem funciona? Se não funcionar, tente novamente, é cheio de tentativa e erro.
Ciência é o que pode ser compreendido antes que algo aconteça. Idealmente, esse entendimento significa menos erros. Isso é importante com IA e AGI porque, ao aplicar uma tecnologia tão poderosa, você deseja cometer o mínimo de erros possível.
Talvez dentro de alguns anos, à medida que nos aproximamos da AGI, surja uma questão social - que valor queremos que estes sistemas tenham? Que metas devemos estabelecer para eles?
Isso é diferente de questões técnicas. O aspecto técnico centra-se em como manter o sistema no bom caminho e avançando em direcção aos objectivos definidos, mas não nos ajuda a decidir quais devem ser os objectivos.
Para um sistema AGI seguro, tanto as questões técnicas como as questões sociais precisam de estar certas, mas Hassabis acredita que estas últimas podem ser mais difíceis de alcançar.
Uma série de questões como objetivos e valores envolverão mais a ONU e a geopolítica, e até mesmo as ciências sociais e a filosofia, e exigirão amplas discussões com todos os níveis de governo, academia e sociedade civil.
Mesmo que ainda faltem 10 anos para a AGI, não temos muito tempo para resolver estes problemas, pelo que as discussões nesta área devem começar agora, trazendo para a mesa vozes de diversas fontes e perspectivas.