L’ère de l’intelligence est entrée dans un nouveau chapitre et les nouvelles technologies telles que l’IA (intelligence artificielle) accélèrent l’intégration avec diverses industries du monde réel. La question se pose également : où nous mènera la marée montante de l’IA ? Comment devons-nous faire face au changement technologique ?
Du 5 au 7 septembre s'est tenue à Shanghai la Conférence du Bund 2024. En tant que conférence d'influence mondiale sur les technologies financières et les technologies de pointe, la Conférence Bund a construit un pont entre la technologie et les sciences humaines et est devenue une fenêtre importante pour observer la mise en œuvre et le développement de l'industrie chinoise de l'IA.
L'agent intelligent Huangshan Scenic Spot a été officiellement lancé, le modèle à grande échelle iFlytek Spark Medical, la présentation du produit Guodun Quantum, l'École de sécurité du cyberespace de l'Université des sciences et technologies de Chine était l'un des organisateurs du concours d'exposition du Global Deepfake Défi offensif et défensif... de nombreuses « scènes d'Anhui » « Éléments d'Anhui » sont également apparues simultanément, démontrant la profondeur humaniste et la chaleur de la science et de la technologie avec la Conférence du Bund, faisant que « plus la technologie avance, plus elle profite à tout le monde ». continue de devenir une réalité.
Une IA plus professionnelle
Tout comme la machine à vapeur a changé le monde parce qu'elle a commencé à s'intégrer aux navires, aux trains et aux machines textiles, le domaine de l'IA connaît également une évolution clé, passant de la « bataille de centaines de modèles » aux « applications industrielles ».
Les avatars numériques aident à accomplir le travail, les ordinateurs cérébraux aident au sommeil profond et les fibres musculaires artificielles vous font un câlin chaleureux... La conférence Bund a été une démonstration concrète de l'engouement mondial actuel pour l'industrie de l'IA. Les experts prédisent que la mise en œuvre industrielle d’ici cinq ans sera la clé de l’évolution continue de la technologie des grands modèles.
Comme le dit le proverbe : « Laissez les choses professionnelles aux professionnels ». Les besoins de chaque personne et de chaque secteur sont uniques. Pour l’intelligence artificielle qui donne du pouvoir à des milliers d’industries, la résolution de problèmes plus professionnels peut nécessiter une IA plus professionnelle.
Par conséquent, la promotion de grands modèles allant des capacités générales aux applications personnalisées est l'une des propositions fondamentales de l'industrie de l'IA.
Lors de cette conférence du Bund, Huangshan Scenic Spot et Alipay ont lancé pour la première fois le « Huangshan Space Intelligence » avec un concept de service « spatial », en utilisant le grand modèle Ant Bailing comme base technique. En conséquence, Huangshan Scenic Spot est devenu le premier. "Escorte IA complète" en Chine.
En tant que forme de produit de l'intelligence artificielle générative, les agents intelligents sont au cœur des applications actuelles des grands modèles, permettant aux grands modèles de faire pousser « les mains et les pieds ». L'agent spatial intelligent utilise « AOI » (Zone d'intérêt) comme principale méthode d'organisation et de présentation des services. Lorsque l'agent intelligent détecte que l'utilisateur est entré dans la zone panoramique de Huangshan, il utilisera l'IA pour analyser et diffuser les services qui le font. l'utilisateur est le plus susceptible d'en avoir besoin.
Par exemple, avant qu'un utilisateur n'achète un billet, le « Huangshan Space Intelligence » informera l'utilisateur de la température du site pittoresque, des recommandations vestimentaires et recommandera intelligemment des guides d'itinéraire lorsque l'utilisateur arrive à l'entrée du site pittoresque ; Le code QR du ticket sera automatiquement récupéré ; lorsque l'utilisateur reconnaît. Lorsque l'utilisateur commence à gravir la montagne, chaque site pittoresque le long du chemin sera expliqué à l'utilisateur lorsque l'utilisateur atteint la sortie du site pittoresque, des données intéressantes sur le voyage peuvent être obtenues. être généré en un seul clic. De plus, les vélos partagés, les services de covoiturage en ligne et d'autres services couramment utilisés pendant les voyages peuvent être rapidement invoqués et ouverts.
"Sous la vague de développement de l'IA, l'industrie du tourisme culturel se lance également dans une révolution sans précédent en termes de technologie et de scénarios. Zhang Dehui, président de Huangshan Tourism Development Co., Ltd., a déclaré que par rapport au traditionnel "un-". "Code tour" et "one-machine tour", "Huangshan Scenic Area Intelligent" intègre la technologie des grands modèles technologie, base de connaissances sur le tourisme culturel, algorithme Big Data, interaction vocale et les derniers produits d'application capables de réaliser un apprentissage indépendant et une auto-évolution « Bien qu'il s'agisse d'un produit initial pour l'exploration et l'essai, il nécessite des mises à niveau itératives continues, mais cela marque notre. progrès dans le développement culturel et touristique. " La transformation numérique de l'industrie du voyage a franchi une autre étape révolutionnaire. "
Lumières tirées des « Questions de science, de technologie et de sciences humaines »
Chaque innovation technologique dans l'histoire de l'humanité s'accompagne d'« excitation » et d'« anxiété ».
Comment faire face à la concurrence de l’IA pour les emplois avec les humains ? La capacité de réflexion humaine se dégradera-t-elle à cause de l’IA ? Où en est l’ère de la « symbiose homme-machine » ? Est-il possible pour l’IA de transcender les propriétés des outils, de prendre conscience et même d’établir une civilisation IA ? … Il ressort des dix questions sur la science, la technologie et les sciences humaines publiées lors de la conférence du Bund que les sentiments du public à l'égard de l'IA sont plus complexes, avec beaucoup d'anxiété technologique.
L'avenir est ascendant et avancé, et la science et la technologie sont bonnes et belles. Quelle que soit l’évolution des technologies révolutionnaires, l’orientation humaine reste toujours le premier principe.
Lors de la conférence du Bund, Zhou Jian, un homme de 24 ans qui a perdu son bras droit à l'âge de 12 ans, a utilisé l'intelligence artificielle et la technologie d'interface cerveau-ordinateur pour jouer une chanson au piano "Big Fish" avec sa main bionique, laissant le public exprime son appréciation pour le développement de la technologie au service de l'humanité. Le bien-être se ressent intuitivement.
Il convient de noter que si les nouveaux changements technologiques entraînent de nouveaux scénarios, de nouvelles entreprises et de nouveaux marchés, ils entraînent également des risques et des défis sans précédent en termes d’éthique technologique. Comment promouvoir le développement rapide de la technologie de l’IA tout en garantissant sa sécurité, sa fiabilité et sa contrôlabilité, afin que l’IA puisse profiter de manière plus responsable à la société humaine ?
Prenons l'exemple des grands modèles d'IA.Actuellement, de grands modèles sont mis en œuvre à un rythme accéléré dans diverses industries.En particulier, la refonte d'industries rigoureuses telles que les soins médicaux et la finance est sans précédent.Cependant, ces industries rigoureuses ont également la plus haute éthique. normes et le domaine des relations éthiques les plus complexes.
Zhao Jinghe, vice-président de l'Institut de recherche médicale iFlytek, a partagé les progrès actuels de l'application et l'exploration de l'éthique de la sécurité du modèle médical Spark d'iFlytek lors de la conférence Bund. Concernant les problèmes rencontrés par l'application de grands modèles dans des scénarios médicaux, il estime que « les principaux problèmes sont la confidentialité des données, les droits de propriété intellectuelle et la responsabilité morale. Ce n'est qu'en permettant aux grands modèles de véritablement résoudre ces problèmes que nous pourrons véritablement aider les médecins, les patients, recherche scientifique et autres scénarios." .
« En termes d'interprétation de la loi, il n'est pas seulement nécessaire de réglementer et de légiférer au niveau gouvernemental pour garantir la légalité et la conformité des modèles à grande échelle ; les entreprises doivent également respecter la nature des soins médicaux, prendre des mesures pour renforcer les données. protection et obtenir l'autorisation de droit d'auteur nécessaire. Garantir l'équité et la conformité du modèle tout en améliorant la transparence et en renforçant l'éducation du public », a déclaré Zhao Jinghe.
En tant que l'une des principales sociétés d'innovation scientifique et technologique de l'Anhui, Guodun Quantum a également présenté une variété de produits liés à la sécurité des informations de bureau. « Par exemple, notre casque Bluetooth intègre la technologie de protection de la confidentialité des communications vocales développée indépendamment par Guodun Quantum, qui peut protéger efficacement les informations privées des utilisateurs pendant les appels, les messages vocaux, etc., permettant aux utilisateurs de se sentir plus à l'aise pendant la communication. » Zhang Rutong, directeur technique de Shield Quantum Solutions, a présenté.
Certains experts sont plus optimistes quant à la manière de garantir que la technologie profite toujours au bien-être humain. "Beaucoup des problèmes qui nous préoccupent aujourd'hui ne sont peut-être pas les plus difficiles à résoudre. Les vrais défis peuvent être des problèmes inconnus que nous n'avons pas encore imaginés. L'une des meilleures façons de parvenir à l'avenir axé sur l'IA que nous souhaitons est de s'impliquer activement, " a déclaré le futurologue Kevin Kelly lors de la conférence du Bund.
Utiliser l’IA pour contrôler la « fraude à l’IA »
Avec le développement rapide de la technologie de l'IA, la technologie deepfake (Deepfake), qui utilise des algorithmes d'apprentissage profond pour simuler et falsifier du contenu audio et vidéo, est devenue de plus en plus mature. Des incidents vicieux tels que la « fraude à changement de visage par l'IA » se sont produits ces dernières années. ont suscité l'intérêt des gens pour l'application de la technologie.
Cela peut être un moyen efficace d'utiliser la technologie de l'IA pour identifier avec précision et prévenir le risque de « changement de visage de l'IA » et « d'utiliser l'IA pour vaincre l'IA ». Cependant, les contrefaçons créées par l’IA peuvent-elles être identifiées par l’IA ?
Un concours axé sur les risques de fraude liés à la technologie « IA qui change le visage » apporte la réponse. Dans le cadre du concours d'exposition du Concours d'innovation en IA de la Conférence Bund et du Global Deepfake Offensive and Defense Challenge, la question a été présentée conjointement par l'École de sécurité du cyberespace de l'Université des sciences et technologies de Chine et le Laboratoire Ant Digital Dimensity. Les candidats ont utilisé les modèles d'IA qu'ils ont étudiés pour modifier l'IA. Détecter et identifier les images et vidéos qui ont été traitées.
Dans la piste d'images, il y a 9 images difficiles à distinguer entre le vrai et le faux à l'œil nu, mais les candidats doivent utiliser leurs propres modèles participants pour donner la probabilité de contrefaçon pour chaque image et comparer les deux photos avec la valeurs de probabilité les plus élevées avec les bonnes réponses. Dans la piste vidéo, les joueurs doivent également utiliser des modèles d'IA pour identifier l'authenticité des vidéos.
Il convient de noter qu'en termes de scores des candidats sur place, sur certaines questions moyennement difficiles, les résultats des deux côtés étaient proches et le taux de reconnaissance des faux était presque supérieur à 80 %. Cependant, sur certaines questions très difficiles, les résultats du modèle sont obtenus. étaient très différents.
Quelqu'un sur place a demandé : « Pourquoi l'IA ne peut-elle pas répondre complètement à une image qui semble fausse à l'œil nu ? Et une image difficile à distinguer à l'œil nu, l'IA peut la reconnaître en une seconde ?
À cet égard, Zhou Tianyi, scientifique en chef du Frontier Artificial Intelligence Research Center de l'Agence de Singapour pour la science, la technologie et la recherche, estime que les humains s'appuient sur l'intuition et la logique pour juger si une image est fausse, par exemple si le visage d'une autre personne. est remplacé par le visage d'un acteur de cinéma, les humains peuvent le dire d'un coup d'œil. L'IA ne comprend pas l'histoire qui se cache derrière. Mais l’IA n’est pas aussi sensible aux interférences émotionnelles que les humains, et elle exécute les instructions méticuleusement. De ce point de vue, l’IA est « supérieure » aux humains en termes d’efficacité et de stabilité du travail.
Cependant, le développement d’algorithmes de détection n’est qu’un moyen parmi d’autres de lutter contre les abus liés à la technologie des deepfakes. Yao Weibin, l'un des auteurs des questions du jeu, a admis que cette méthode était relativement en retard. Pour prévenir la fraude à la racine, nous devrions exiger l'établissement d'un identifiant universel pour le contenu de l'AIGC du point de vue des normes et de la législation. Par exemple, chaque vidéo ou image générée par l'AIGC devrait avoir une signature ou un filigrane dans les informations du fichier. cette gestion de plate-forme a plus de fondement.
"Pour le grand public, la contrefaçon est désormais très probable et est progressivement entrée dans nos vies, et a même divulgué la vie privée des gens. Le professeur Zhou Wenbo, de l'École de sécurité du cyberespace, de l'Université des sciences et technologies de Chine, a suggéré de ne pas le faire facilement." dans les lieux publics. Montrez vos propres données faciales et évitez autant que possible les fuites de données faciales. « À mesure que la technologie de synthèse s'améliore, nous serons de plus en plus trompés, mais tant que nous pouvons rester vigilants, nous peut encore avoir un impact important. » La probabilité n’est pas compromise par la fraude.