Das Zeitalter der Intelligenz hat ein neues Kapitel aufgeschlagen und neue Technologien wie KI (künstliche Intelligenz) beschleunigen die Integration mit verschiedenen Branchen in der realen Welt. Es stellt sich auch die Frage: Wohin wird uns die steigende Flut der KI führen? Wie sollen wir dem technologischen Wandel begegnen?
Vom 5. bis 7. September fand in Shanghai die Bund-Konferenz 2024 statt. Als weltweit einflussreiche Finanztechnologie- und Spitzentechnologiekonferenz hat die Bund-Konferenz eine Brücke zwischen Technologie und Geisteswissenschaften geschlagen und ist zu einem wichtigen Fenster für die Beobachtung der Umsetzung und Entwicklung der chinesischen KI-Industrie geworden.
Der intelligente Agent Huangshan Scenic Spot wurde offiziell veröffentlicht, das Großmodell iFlytek Spark Medical, die Produktausstellung Guodun Quantum und die School of Cyberspace Security der University of Science and Technology of China waren einer der Organisatoren des Ausstellungswettbewerbs des Global Deepfake Angriffs- und Verteidigungsherausforderung ... viele „Anhui-Szenen“ „Anhui Elements“ erschienen auch gleichzeitig und demonstrierten zusammen mit der Bund-Konferenz die humanistische Tiefe und Wärme von Wissenschaft und Technologie und machten „Je mehr Technologie voranschreitet, desto mehr kommt sie allen zugute“. wird weiterhin Realität.
Professionellere KI
So wie die Dampfmaschine die Welt veränderte, weil sie begann, sich in Schiffe, Züge und Textilmaschinen zu integrieren, durchläuft auch der Bereich der KI eine entscheidende Entwicklung vom „Kampf der Hunderter Modelle“ hin zu „Industriellen Anwendungen“.
Digitale Avatare helfen bei der Erledigung von Arbeiten, Gehirncomputer helfen beim Tiefschlafen und künstliche Muskelfasern umarmen Sie herzlich ... Die Bund-Konferenz war eine konkrete Demonstration des aktuellen globalen Hypes in der KI-Branche. Experten gehen davon aus, dass die industrielle Umsetzung innerhalb von fünf Jahren der Schlüssel zur weiteren Weiterentwicklung der Großmodelltechnik sein wird.
Wie das Sprichwort sagt: „Überlassen Sie professionelle Dinge den Profis.“ Die Bedürfnisse jeder Person und jeder Branche sind einzigartig. Für die künstliche Intelligenz, die Tausende von Branchen unterstützt, erfordern professionellere Probleme möglicherweise eine professionellere Lösung.
Daher ist die Förderung großer Modelle von allgemeinen Fähigkeiten hin zu personalisierten Anwendungen eines der Kernanliegen der KI-Branche.
Auf dieser Bund-Konferenz stellten Huangshan Scenic Spot und Alipay zum ersten Mal die „Huangshan Space Intelligence“ mit einem „Weltraum“-Servicekonzept vor, wobei das große Ant Bailing-Modell als technische Basis diente. Infolgedessen war Huangshan Scenic Spot der erste „vollständige KI-Eskorte“ in China.
Als Produktform generativer künstlicher Intelligenz sind intelligente Agenten die Kernrichtung aktueller Großmodellanwendungen und ermöglichen es großen Modellen, „Hände und Füße“ wachsen zu lassen. Der räumliche intelligente Agent verwendet „AOI“ (Area of Interest) als Hauptdienstorganisations- und Präsentationsmethode. Wenn der intelligente Agent erkennt, dass der Benutzer das Huangshan Scenic Area betreten hat, verwendet er KI, um die Dienste zu analysieren und voranzutreiben Der Benutzer benötigt höchstwahrscheinlich .
Bevor ein Benutzer beispielsweise ein Ticket kauft, informiert die „Huangshan Space Intelligence“ den Benutzer über die Temperatur des Aussichtspunkts, gibt ihm Kleidungsempfehlungen und empfiehlt auf intelligente Weise Routenführer, wenn der Benutzer am Eingang des Aussichtspunkts ankommt Der Ticket-QR-Code wird automatisch abgerufen. Wenn der Benutzer mit dem Aufstieg auf den Berg beginnt, werden ihm interessante Daten über die Reise erklärt, wenn er den Ausgang des Aussichtspunkts erreicht mit einem Klick generiert werden. Darüber hinaus können Leihfahrräder, Online-Ride-Hailing und andere während der Reise häufig genutzte Dienste schnell aufgerufen und geöffnet werden.
„Unter der Welle der KI-Entwicklung beginnt auch die Kulturtourismusbranche und erlebt eine beispiellose Revolution in Technologie und Szenarien.“ Zhang Dehui, Vorsitzender von Huangshan Tourism Development Co., Ltd., sagte, dass im Vergleich zum traditionellen „Ein-“ „Code Tour“ und „One-Machine Tour“-Modell, „Huangshan Scenic Area Intelligent“ integriert große Modelltechnologie Technologie, Kulturtourismus-Wissensbasis, Big-Data-Algorithmus, Sprachinteraktion und die neuesten Anwendungsprodukte, die unabhängiges Lernen und Selbstentwicklung ermöglichen können. „Obwohl es sich um ein anfängliches Produkt zur Erkundung und Erprobung handelt, sind kontinuierliche iterative Upgrades erforderlich, aber das kennzeichnet unsere.“ Fortschritte in der kulturellen und touristischen Entwicklung.“ Die digitale Transformation der Reisebranche hat einen weiteren revolutionären Schritt gemacht.“
Aufklärung aus „Fragen der Wissenschaft, Technik und Geisteswissenschaften“
Jede technologische Innovation in der Geschichte der Menschheit geht mit „Aufregung“ und „Angst“ einher.
Wie geht man damit um, dass KI mit Menschen um Arbeitsplätze konkurriert? Wird sich die menschliche Denkfähigkeit durch KI verschlechtern? Wie weit ist das Zeitalter der „Mensch-Maschine-Symbiose“ fortgeschritten? Ist es der KI möglich, über Werkzeugeigenschaften hinauszugehen, Bewusstsein zu erlangen und sogar eine KI-Zivilisation zu etablieren? … Aus den auf der Bund-Konferenz veröffentlichten Zehn Fragen zu Wissenschaft, Technologie und Geisteswissenschaften geht hervor, dass die Gefühle der Öffentlichkeit gegenüber KI komplexer sind und eine große Angst vor der Technologie aufweist.
Die Zukunft zeigt aufwärts und vorwärts, und Wissenschaft und Technologie sind gut und schön. Egal, wie bahnbrechend sich die Technologie verändert, die Menschenorientierung steht immer an erster Stelle.
Auf der Bund-Konferenz spielte Zhou Jian, ein 24-jähriger Mann, der im Alter von 12 Jahren seinen rechten Arm verlor, künstliche Intelligenz und Gehirn-Computer-Schnittstellentechnologie, um mit seiner bionischen Hand ein Klavierlied „Big Fish“ zu spielen Das Publikum drückt seine Wertschätzung für die Entwicklung der Technologie im Dienste der Menschheit aus. Wohlbefinden ist intuitiv zu spüren.
Es ist erwähnenswert, dass neue technologische Veränderungen zwar neue Szenarien, neue Unternehmen und neue Märkte mit sich bringen, aber auch beispiellose Risiken und Herausforderungen im Hinblick auf die Technologieethik mit sich bringen. Wie kann die schnelle Entwicklung der KI-Technologie gefördert und gleichzeitig deren Sicherheit, Zuverlässigkeit und Kontrollierbarkeit gewährleistet werden, damit die KI der menschlichen Gesellschaft verantwortungsvoller zugute kommen kann?
Nehmen wir als Beispiel große KI-Modelle, die in verschiedenen Branchen immer schneller umgesetzt werden. Insbesondere die Umgestaltung strenger Branchen wie der medizinischen Versorgung und des Finanzwesens ist beispiellos Standards und das komplexeste ethische Beziehungsfeld.
Zhao Jinghe, Vizepräsident des iFlytek Medical Research Institute, berichtete auf der Bund-Konferenz über den aktuellen Anwendungsfortschritt und die Untersuchung der Sicherheitsethik des medizinischen Modells Spark von iFlytek. In Bezug auf die Probleme, mit denen die Anwendung großer Modelle in medizinischen Szenarien konfrontiert ist, glaubt er, dass „die Hauptthemen Datenschutz, geistige Eigentumsrechte und moralische Verantwortung sind“. Nur wenn wir großen Modellen erlauben, diese Probleme wirklich zu lösen, können wir Ärzten, Patienten und Patienten wirklich helfen. wissenschaftliche Forschung und andere Szenarien.
„Im Hinblick auf die Auslegung des Gesetzes ist es nicht nur notwendig, auf Regierungsebene zu regulieren und Gesetze zu erlassen, um die Rechtmäßigkeit und Konformität von Großmodellen sicherzustellen, sondern auch Maßnahmen zur Stärkung der Daten zu ergreifen Schutz und die Einholung der erforderlichen Urheberrechtsgenehmigung, um die Fairness und Konformität des Modells sicherzustellen und gleichzeitig die Transparenz zu verbessern und die öffentliche Bildung zu stärken“, sagte Zhao Jinghe.
Als eines der wichtigsten wissenschaftlichen und technologischen Innovationsunternehmen Anhuis stellte Guodun Quantum auch eine Vielzahl von Produkten im Zusammenhang mit der Informationssicherheit im Büro vor. „Unser Bluetooth-Headset verfügt beispielsweise über die von Guodun Quantum unabhängig entwickelte Technologie zum Schutz der Privatsphäre der Benutzer, die die privaten Daten der Benutzer bei Anrufen, Sprachnachrichten usw. effektiv schützen kann, sodass sich Benutzer bei der Kommunikation wohler fühlen.“ Zhang Rutong, technischer Direktor von Shield Quantum Solutions, stellte vor.
Einige Experten sind optimistischer, was die Frage angeht, wie sichergestellt werden kann, dass Technologie stets dem Wohlergehen der Menschen zugute kommt. „Viele der Probleme, über die wir uns heute Sorgen machen, sind möglicherweise nicht die am schwersten zu lösenden. Die wirklichen Herausforderungen könnten unbekannte Probleme sein, die wir uns noch nicht vorgestellt haben. Eine der besten Möglichkeiten, die KI-gesteuerte Zukunft zu erreichen, die wir wollen, besteht darin, sich aktiv zu engagieren, „sagte der bekannte Zukunftsforscher Kevin Kelly auf der Bund-Konferenz.
Mit KI den „KI-Betrug“ kontrollieren
Mit der rasanten Entwicklung der KI-Technologie ist die Deepfake-Technologie (Deepfake), die Deep-Learning-Algorithmen zur Simulation und Fälschung von Audio- und Videoinhalten verwendet, in den letzten Jahren immer ausgereifter geworden haben das Interesse der Menschen an der Anwendung von Technologie geweckt.
Es könnte ein wirksamer Weg sein, KI-Technologie zu nutzen, um das Risiko einer „KI-Gesichtsveränderung“ und „KI zur Bekämpfung von KI zu nutzen“ genau zu erkennen und zu verhindern. Können die von der KI erstellten Fälschungen jedoch von der KI identifiziert werden?
Die Antwort liefert ein Wettbewerb, der sich auf die Betrugsrisiken der „KI-Gesichtsverändernden“-Technologie konzentriert. Im Ausstellungswettbewerb des AI Innovation Competition der Bund Conference und der Global Deepfake Offensive and Defense Challenge wurde die Frage gemeinsam von der School of Cyberspace Security der University of Science and Technology of China und dem Ant Digital Dimensity Laboratory gestellt. Die Teilnehmer verwendeten die von ihnen untersuchten KI-Modelle, um die verarbeiteten KI-Bilder und Videos zu erkennen und zu identifizieren.
In der Bildspur gibt es 9 Bilder, bei denen es mit bloßem Auge schwierig ist, zwischen wahr und falsch zu unterscheiden, aber die Teilnehmer müssen ihre eigenen teilnehmenden Modelle verwenden, um die Wahrscheinlichkeit einer Fälschung für jedes Bild anzugeben, und die beiden Fotos mit dem vergleichen höchste Wahrscheinlichkeitswerte mit den richtigen Antworten. Auch in der Videospur müssen Spieler KI-Modelle nutzen, um die Authentizität von Videos zu erkennen.
Es ist erwähnenswert, dass in Bezug auf die Ergebnisse der Teilnehmer vor Ort bei einigen mäßig schwierigen Fragen die Ergebnisse beider Seiten nahe beieinander lagen und die Fälschungserkennungsrate bei einigen sehr schwierigen Fragen fast über 80 % lag waren sehr unterschiedlich.
Jemand vor Ort fragte: „Warum kann die KI ein Bild, das mit bloßem Auge falsch aussieht, nicht vollständig beantworten? Und ein Bild, das mit bloßem Auge schwer zu unterscheiden ist, kann die KI in einer Sekunde erkennen?“
In diesem Zusammenhang glaubt Zhou Tianyi, Chefwissenschaftler des Frontier Artificial Intelligence Research Centre der Singapore Agency for Science, Technology and Research, dass Menschen sich auf Intuition und Logik verlassen, um zu beurteilen, ob ein Bild gefälscht ist, beispielsweise wenn das Gesicht einer anderen Person ist durch das Gesicht eines Filmschauspielers ersetzt wird, kann der Mensch auf den ersten Blick erkennen, dass die KI die Geschichte dahinter nicht versteht. Aber KI ist nicht so anfällig für emotionale Störungen wie Menschen und führt Anweisungen akribisch aus. Aus dieser Perspektive ist KI dem Menschen hinsichtlich Arbeitseffizienz und Stabilität „überlegen“.
Allerdings ist die Entwicklung von Erkennungsalgorithmen nur eine Möglichkeit, den Missbrauch der Deepfake-Technologie einzudämmen. Yao Weibin, einer der Spielfragesteller, gab zu, dass diese Methode relativ hinterherhinkt. Um Betrug an der Grundursache zu verhindern, sollten wir aus Sicht von Standards und Gesetzen die Einrichtung einer universellen Kennung für AIGC-Inhalte fordern. Beispielsweise sollte jedes von AIGC generierte Video oder Bild eine Signatur oder ein Wasserzeichen in den Dateiinformationen haben dass das Plattformmanagement mehr Grundlagen hat.
„Für die breite Öffentlichkeit sind tiefgreifende Fälschungen mittlerweile sehr wahrscheinlich und haben nach und nach Einzug in unser Leben gehalten und sogar die Privatsphäre der Menschen preisgegeben.“ Professor Zhou Wenbo von der School of Cyberspace Security der University of Science and Technology of China schlug vor, dies nicht so einfach zu tun An öffentlichen Orten zeigen Sie Ihre eigenen Gesichtsdaten und vermeiden Sie den Verlust von Gesichtsdaten so weit wie möglich. „Je besser die Synthesetechnologie wird, desto tiefer werden wir getäuscht, aber solange wir wachsam bleiben können.“ kann dennoch große Auswirkungen haben. „Die Wahrscheinlichkeit wird durch Betrug nicht gefährdet.“