Beim diesjährigen Nobelpreis wurden sowohl in den Bereichen Physik als auch Chemie Preise für KI-Errungenschaften vergeben. Was bedeutet das und welche Auswirkungen wird es haben? Demis Hassabis äußerte in diesem exklusiven Interview seine eigene Meinung.
Im Oktober wurde Demis Hassabis, Mitbegründer und CEO von DeepMind, einer der drei Mitgewinner des Nobelpreises für Chemie für AlphaFold.
Als Software für künstliche Intelligenz löst AlphaFold ein Problem, das die biologische Gemeinschaft vor 50 Jahren gestellt hat: die Vorhersage der Struktur jedes bekannten Proteins.
Tatsächlich ist AlphaFold, dieses bahnbrechende Modell, nur ein Teil der Errungenschaften von DeepMind. In den 15 Jahren seit seiner Gründung hat sich DeepMind zu einem der bedeutendsten KI-Labore der Welt entwickelt.
Obwohl nach der Übernahme durch Google und der Fusion mit Google Brain einige geschäftliche Überlegungen hinzukamen, konzentrieren sie sich immer noch auf die komplexesten und grundlegendsten Probleme in Wissenschaft und Technik und entwickeln letztendlich leistungsstarke KI, die menschliche kognitive Fähigkeiten imitieren oder sogar ersetzen kann.
Weniger als 24 Stunden nach der Verleihung des Nobelpreises nahm Demis Hassabis ein Interview mit der Reporterin der Financial Times, Madhumita Murgia, entgegen und besprach die großen Probleme, die DeepMind als nächstes lösen wird, die Rolle der KI für den wissenschaftlichen Fortschritt und seine eigenen Gedanken zum Weg zur AGI. Aussichtsprognose.
Demis Hassabis in der Google DeepMind-Zentrale in London
Die nächste Herausforderung von AI4Science
Der damit verbundene Fortschritt von AlphaFold 3 demonstriert gewissermaßen den nächsten Schritt von DeepMind auf dem Gebiet der Biologie – das Verständnis der Interaktionen innerhalb von Organismen, letztendlich die Modellierung des gesamten Signalwegs und sogar den Aufbau einer virtuellen Zelle.
Darüber hinaus dringen sie durch die Bemühungen der DeepMind-Tochtergesellschaft Isomorphic auch in den Bereich der Arzneimittelforschung ein – sie entwerfen neue Verbindungen, finden Bindungsstellen und prognostizieren die Eigenschaften, Absorption, Toxizität usw. dieser Substanzen.
Derzeit hat Isomorphic außerdem mit Eli Lilly, Novartis und anderen Unternehmen zusammengearbeitet, um sechs Arzneimittelforschungs- und -entwicklungsprojekte durchzuführen, die in den nächsten Jahren voraussichtlich klinische Fortschritte machen werden. Man hofft, die für die Arzneimittelentwicklung erforderliche Zeit deutlich zu verkürzen. Dadurch hilft es, einige Krankheiten zu heilen.
Neben dem Fachgebiet Biologie brachte Hassabis auch zum Ausdruck, dass ihm die Arbeit im Bereich Materialdesign sehr am Herzen liegt.
Letztes Jahr veröffentlichten sie einen Artikel in Nature, in dem sie ein KI-Tool namens GNoME vorschlugen, um ein Materialdesign der Stufe AlphaFold 1 zu erreichen, und entdeckten insgesamt 2,2 Millionen neue Kristalle. Im nächsten Schritt müssen sie hart arbeiten, um die Stufe AlphaFold 2 zu erreichen.
Papieradresse: https://www.nature.com/articles/s41586-023-06735-9
In Sachen Mathematik haben AlphaProof und AlphaGeometry in diesem Jahr meiner Meinung nach die Silbermedaille erreicht. In den nächsten Jahren wird DeepMind versuchen, die Leistungsfähigkeit der KI zu nutzen, um eine wichtige mathematische Vermutung wirklich zu lösen.
Für die Bereiche Energie und Klima kann das letztes Jahr in Science veröffentlichte Graphcast-Modell das Wetter für die nächsten 10 Tage mit beispielloser Genauigkeit innerhalb einer Minute vorhersagen.
Papieradresse: https://www.science.org/token/author-tokens/ST-1550/full
Die eingesetzte Technologie kann möglicherweise bei der Klimamodellierung hilfreich sein, was in Bereichen wie der Bekämpfung des Klimawandels und der Optimierung von Stromnetzen sehr wichtig ist.
Es ist ersichtlich, dass der zukünftige Entwurf von DeepMind sich mehr auf die Anwendungs- und Ingenieurspraxis konzentriert und darauf abzielt, Technologie weiter in Arbeit umzuwandeln, die sich auf die reale Welt auswirken kann, und nicht auf reine Grundlagenforschung.
In diesem Zusammenhang sagte Hassabis, dass die „Proteinfaltung“ eine „Herausforderung“ sei, die „unerwartet“ sei und nicht erfordern könne, dass jedes Problem einen solchen Goldgehalt habe.
Das Problem der „Proteinfaltung“ ist so zentral und wichtig, dass es dem letzten Satz von Fermat auf dem Gebiet der Biologie entspricht. Leider gibt es jedoch nicht viele Probleme, die wichtig genug sind und lange genug erforscht wurden, um als a bezeichnet zu werden "Herausforderung."
Der Nobelpreis wird ein Wendepunkt für die KI sein
Die diesjährigen Nobelpreise für Physik und Chemie wurden nacheinander an KI-Wissenschaftler verliehen. Es ist interessant, aber niemand kann sagen, warum das Preiskomitee eine solche Entscheidung getroffen hat.
Wie versteht Hassabis das?
Er sagte, dass dies einer bewusst vom Ausschuss abgegebenen „Erklärung“ ähnele und auch einen Wendepunkt für die KI darstellen werde, da ihre technologische Reife hinreichend anerkannt sei, um wissenschaftliche Entdeckungen zu unterstützen.
AlphaFold ist das beste Beispiel, während die Auszeichnungen von Hinton und Hopfield für grundlegendere Algorithmenarbeiten auf niedrigerem Niveau vergeben werden.
Hassabis sagte, er hoffe, dass AlphaFold in zehn Jahren ein neues goldenes Zeitalter wissenschaftlicher Entdeckungen in all diesen verschiedenen Bereichen einläuten werde.
Dies wirft auch eine interessante Frage auf: Mit Tools wie AlphaFold müssen Wissenschaftler nicht mehr zu viel Zeit und Energie aufwenden, um Vorhersagen zu treffen. Bedeutet das, dass wir neue Bereiche erkunden sollten? Oder sogar die Art und Weise ändern, wie Sie wissenschaftliche Konzepte lernen?
Es ist zu beachten, dass KI-Systeme eine einzigartige neue Klasse von Werkzeugen sind. Sie verfügen über einige inhärente Funktionen und passen daher nicht in die traditionelle Klassifizierung von Werkzeugen.
Obwohl Tools wie AlphaFold derzeit nur Vorhersagen treffen können, gehört die Vorhersage gewissermaßen auch zum „Verstehen“. Wenn Sie vorhersagen können, bringt das Verständnis.
Selbst wenn die vorhergesagte Ausgabe wichtig genug ist, beispielsweise die Struktur eines Proteins, ist sie an sich schon wertvoll.
Aus einer breiteren Perspektive betrachtet umfasst die Wissenschaft viele Ebenen der „Abstraktion“.
Beispielsweise basiert das gesamte Gebiet der Chemie auf der Physik. Sie müssen nicht alle physikalischen Prinzipien wie die Quantenmechanik verstehen, um über Atomverbindungen zu sprechen und die Chemie auf ihrer eigenen abstrakten Ebene zu verstehen.
Auf dem Gebiet der Biologie können wir das Leben studieren, aber wir wissen immer noch nicht, wie sich das Leben entwickelt hat oder entstand, und wir können nicht einmal den Begriff „Leben“ richtig definieren.
In ähnlicher Weise ist KI wie eine Abstraktionsebene, die die Menschen, die Programme und Netzwerke erstellen, auf physischer Ebene verstehen, aber die daraus resultierenden Vorhersagen sind wie entstehende Eigenschaften, die wir auf wissenschaftlicher Ebene selbst vorhersagen können.
AGI rückt näher, Verständnis ist wichtig
Ob es sich um Naturwissenschaften oder Systeme der künstlichen Intelligenz handelt, „Verstehen“ ist sehr wichtig.
Künstliche Intelligenz ist eine Ingenieursdisziplin, was bedeutet, dass Sie zunächst ein System aufbauen müssen, bevor Sie das Objekt untersuchen und verstehen können. Phänomene in der Naturwissenschaft müssen zwar nicht hergestellt werden, sie existieren jedoch auf natürliche Weise.
Obwohl es sich bei KI-Systemen um technische Artefakte handelt, bedeutet dies nicht, dass sie einfacher zu untersuchen sind als natürliche Phänomene. Es ist sogar zu erwarten, dass sie genauso schwer zu verstehen, zu zerlegen und zu dekonstruieren sind wie biologische neuronale Netze.
Dies geschieht jetzt, aber wir haben einige Fortschritte gemacht. Es gibt beispielsweise ein Spezialgebiet namens „mechanistische Interpretation“, das neurowissenschaftliche Konzepte und Werkzeuge verwendet, um das „virtuelle Gehirn“ des KI-Systems zu analysieren.
Hassabis ist hinsichtlich der Erklärbarkeit von KI sehr optimistisch und geht davon aus, dass es in den nächsten Jahren große Fortschritte beim Verständnis von KI-Systemen geben wird.
Natürlich kann KI auch lernen, sich selbst zu erklären. Stellen Sie sich vor, AlphaFold mit einem Sprachkompetenzsystem zu kombinieren, sodass es gleichzeitig vorhersagen und erklären kann, was es tut.
Derzeit schränken viele führende Labore den Umfang ihrer Forschung ein und konzentrieren sich auf die Skalierung von Transformern. Es lässt sich nicht leugnen, dass dies eine gute Richtung ist und eine Schlüsselkomponente des endgültigen AGI-Systems werden wird, aber DeepMind wird weiterhin auf Erkundung und innovative Forschung setzen.
Tatsächlich verfügt DeepMind über die bislang umfassendste und tiefgreifendste Forschungsplattform zur Erfindung der nächsten Generation von Transformern als Teil ihres wissenschaftlichen Erbes.
Diese Erkundungen sind zum Teil notwendig, um zu sehen, wie weit wir gehen können, damit wir wissen, was erforscht werden muss.
Es ist wichtig, neue Ideen zu erforschen und aufregende Ideen voll auszuschöpfen. Wenn Sie die absoluten Grenzen Ihrer aktuellen Ideen nicht verstehen, wissen Sie nicht, welche Durchbrüche erforderlich sind.
Das lange Kontextfenster von LLM ist ein gutes Beispiel. Der 2M-Token-Kontext von Google Gemini 1.5 Pro ist eine coole Innovation, die noch niemand kopieren kann.
Google DeepMind-Büro in London
Nur wenn wir die KI verstehen, können wir eine sichere AGI haben
Hassabis und viele Technologieführer haben vorhergesagt, dass die Realisierung von AGI 5 bis 20 Jahre dauern wird.
Wenn wir wissenschaftliche Methoden nutzen wollen, um dieses Ziel zu erreichen, bedeutet das mehr Zeit, Energie und Nachdenken, wobei wir uns auf KI-Verständnis- und Analysetools, Benchmarking und Bewertung konzentrieren müssen, was das Zehnfache der aktuellen Investition erfordert.
Diese Beiträge sollten nicht nur von Technologieunternehmen, sondern auch von KI-Sicherheitsbehörden, der Wissenschaft und der Zivilgesellschaft kommen. Wir müssen verstehen, was KI-Systeme tun, welche Grenzen sie haben und wie wir diese Systeme steuern und schützen können.
„Verstehen“ ist ein wichtiger Teil der wissenschaftlichen Methode, fehlt aber in der reinen Technik. Die Technik schaut einfach zu – funktioniert dieser Ansatz? Wenn es nicht funktioniert, versuchen Sie es einfach noch einmal, es ist voller Versuch und Irrtum.
Wissenschaft ist das, was verstanden werden kann, bevor etwas passiert. Im Idealfall bedeutet dieses Verständnis weniger Fehler. Dies ist bei KI und AGI wichtig, denn bei der Anwendung einer so leistungsstarken Technologie möchte man so wenig Fehler wie möglich machen.
Vielleicht wird sich in ein paar Jahren, wenn wir uns der AGI nähern, eine gesellschaftliche Frage stellen: Welchen Wert sollen diese Systeme haben? Welche Ziele sollten wir ihnen setzen?
Dies unterscheidet sich von technischen Problemen. Der technische Aspekt konzentriert sich darauf, wie das System auf Kurs gehalten und in Richtung der gesetzten Ziele bewegt werden kann, aber er hilft uns nicht bei der Entscheidung, was die Ziele sein sollten.
Für ein sicheres AGI-System müssen sowohl technische als auch soziale Aspekte stimmen, aber Hassabis glaubt, dass Letzteres möglicherweise schwieriger zu erreichen ist.
Eine Reihe von Themen wie Ziele und Werte werden mehr UN- und Geopolitik und sogar Sozialwissenschaften und Philosophie betreffen und erfordern ausführliche Diskussionen mit allen Ebenen der Regierung, der Wissenschaft und der Zivilgesellschaft.
Selbst wenn AGI noch zehn Jahre entfernt ist, haben wir nicht viel Zeit, diese Probleme zu lösen. Deshalb sollten die Diskussionen in diesem Bereich jetzt beginnen und Stimmen aus verschiedenen Quellen und Perspektiven einbringen.