A era da inteligência entrou num novo capítulo e novas tecnologias como a IA (inteligência artificial) estão a acelerar a integração com várias indústrias no mundo real. Surge também a questão: para onde nos levará a maré crescente da IA? Como devemos enfrentar a mudança tecnológica?
De 5 a 7 de setembro, a Conferência Bund 2024 foi realizada em Xangai. Como uma conferência de tecnologia financeira e tecnologia de ponta com influência global, a Conferência Bund construiu uma ponte entre a tecnologia e as humanidades e tornou-se uma janela importante para observar a implementação e o desenvolvimento da indústria de IA da China.
O agente inteligente Huangshan Scenic Spot foi lançado oficialmente, modelo em grande escala iFlytek Spark Medical, exibição de produtos Guodun Quantum, a Escola de Segurança do Ciberespaço da Universidade de Ciência e Tecnologia da China foi um dos organizadores da competição de exposição do Global Deepfake Desafio ofensivo e de defesa... muitas "cenas de Anhui" "Elementos de Anhui" também apareceram simultaneamente, demonstrando a profundidade humanística e o calor da ciência e da tecnologia junto com a Conferência Bund, fazendo com que "quanto mais a tecnologia avança, mais ela beneficia a todos" continua a se tornar uma realidade.
IA mais profissional
Tal como a máquina a vapor mudou o mundo porque começou a integrar-se com navios, comboios e máquinas têxteis, o campo da IA também está a passar por uma evolução fundamental, da “Batalha de Centenas de Modelos” para “Aplicações Industriais”.
Avatares digitais auxiliam na conclusão do trabalho, computadores cerebrais auxiliam no sono profundo e fibras musculares artificiais dão um abraço caloroso... A Conferência Bund foi uma demonstração concreta da atual mania global na indústria de IA. Os especialistas prevêem que a implementação industrial dentro de cinco anos é a chave para a evolução contínua da tecnologia de grandes modelos.
Como diz o ditado: “Deixe as coisas profissionais para os profissionais”. As necessidades de cada pessoa e de cada setor são únicas. Para a inteligência artificial que capacita milhares de setores, mais problemas profissionais podem exigir uma IA mais profissional para serem resolvidos.
Portanto, promover grandes modelos, desde capacidades gerais até aplicações personalizadas, é uma das principais propostas da indústria de IA.
Nesta Conferência Bund, Huangshan Scenic Spot e Alipay lançaram pela primeira vez o "Huangshan Space Intelligence" com um conceito de serviço "espacial", usando o grande modelo Ant Bailing como base técnica. Como resultado, Huangshan Scenic Spot tornou-se o primeiro. "escolta completa de IA" na China.
Como uma forma de produto de inteligência artificial generativa, os agentes inteligentes são a direção central das atuais aplicações de grandes modelos, permitindo que grandes modelos cresçam "mãos e pés". O agente espacial inteligente usa "AOI" (Área de Interesse) como principal método de organização e apresentação de serviços. Quando o agente inteligente percebe que o usuário entrou na Área Cênica de Huangshan, ele usará IA para analisar e enviar os serviços que. o usuário provavelmente precisará.
Por exemplo, antes de um usuário comprar um ingresso, o "Huangshan Space Intelligence" informará ao usuário a temperatura do local panorâmico, recomendações de roupas e recomendará guias de rota de forma inteligente quando o usuário chegar à entrada do local panorâmico, o; o código QR do bilhete será recuperado automaticamente; quando o usuário reconhecer Quando o usuário começar a subir a montanha, cada local panorâmico ao longo do caminho será explicado ao usuário quando o usuário chegar à saída do local panorâmico, dados interessantes sobre a viagem podem; ser gerado com um clique. Além disso, bicicletas compartilhadas, serviços de carona on-line e outros serviços comumente usados durante viagens podem ser rapidamente invocados e abertos.
"Sob a onda de desenvolvimento da IA, a indústria do turismo cultural também está embarcando e experimentando uma revolução sem precedentes em tecnologia e cenários". Zhang Dehui, presidente da Huangshan Tourism Development Co., Ltd., disse que em comparação com o tradicional "um- modelo de tour de código" e "tour de uma máquina", "Huangshan Scenic Area Intelligent" integra tecnologia de modelo grande tecnologia, base de conhecimento de turismo cultural, algoritmo de big data, interação de voz e os mais recentes produtos de aplicação que podem realizar aprendizagem independente e autoevolução "Embora seja um produto inicial para exploração e teste, ele precisa de atualizações iterativas contínuas, mas isso marca o nosso. progresso no desenvolvimento cultural e turístico." A transformação digital da indústria de viagens deu outro passo revolucionário.”
Iluminismo a partir de “Questões de Ciência, Tecnologia e Humanidades”
Cada inovação tecnológica na história da humanidade é acompanhada de “entusiasmo” e “ansiedade”.
Como lidar com a IA competindo por empregos com humanos? A capacidade de pensamento humano será degradada devido à IA? Até que ponto está a era da “simbiose homem-máquina”? É possível que a IA transcenda as propriedades das ferramentas, ganhe consciência e até mesmo estabeleça uma civilização de IA? … Pode-se perceber pelas Dez Perguntas sobre Ciência, Tecnologia e Humanidades divulgadas na Conferência do Bund que os sentimentos do público em relação à IA são mais complexos, com muita ansiedade tecnológica.
O futuro é ascendente e progressivo, e a ciência e a tecnologia são boas e bonitas. Não importa o quanto a tecnologia inovadora mude, a orientação para as pessoas é sempre o primeiro princípio.
Na Conferência Bund, Zhou Jian, um homem de 24 anos que perdeu o braço direito aos 12, usou inteligência artificial e tecnologia de interface cérebro-computador para tocar a música de piano "Big Fish" com sua mão biônica, deixando o público expressa seu apreço pelo desenvolvimento da tecnologia para servir a humanidade. O bem-estar é sentido intuitivamente.
Vale ressaltar que, embora as novas mudanças tecnológicas tragam novos cenários, novos negócios e novos mercados, elas também trazem riscos e desafios sem precedentes em termos de ética tecnológica. Como promover o rápido desenvolvimento da tecnologia de IA, garantindo ao mesmo tempo a sua segurança, fiabilidade e controlabilidade, para que a IA possa beneficiar a sociedade humana de forma mais responsável?
Tomemos como exemplo os grandes modelos de IA. Atualmente, os grandes modelos estão sendo implementados em vários setores em um ritmo acelerado. Em particular, a remodelação de setores rigorosos, como cuidados médicos e financeiros, não tem precedentes. padrões e o mais complexo campo de relacionamentos éticos.
Zhao Jinghe, vice-presidente do Instituto de Pesquisa Médica iFlytek, compartilhou o progresso atual da aplicação e a exploração da ética de segurança do modelo médico Spark da iFlytek na Conferência Bund. Quanto aos problemas enfrentados pela aplicação de grandes modelos em cenários médicos, ele acredita que "as principais questões são a privacidade de dados, os direitos de propriedade intelectual e a responsabilidade moral. Somente permitindo que grandes modelos resolvam verdadeiramente estes problemas poderemos realmente ajudar médicos, pacientes, pesquisas científicas e outros cenários."
“Em termos de interpretação da lei, não é apenas necessário regulamentar e legislar a nível governamental para garantir a legalidade e conformidade dos modelos de grande escala; as empresas também devem respeitar a natureza dos cuidados médicos, tomar medidas para fortalecer os dados; proteção e obter a necessária autorização de direitos autorais Garantir a justiça e conformidade do modelo, melhorando a transparência e fortalecendo a educação pública", disse Zhao Jinghe.
Como uma das importantes empresas de inovação científica e tecnológica de Anhui, a Guodun Quantum também exibiu uma variedade de produtos relacionados à segurança da informação em escritórios. "Por exemplo, nosso fone de ouvido Bluetooth incorpora a tecnologia de proteção de privacidade de comunicação de voz desenvolvida de forma independente pela Guodun Quantum, que pode proteger efetivamente as informações privadas dos usuários durante chamadas, mensagens de voz, etc., fazendo com que os usuários se sintam mais à vontade durante a comunicação." Zhang Rutong, diretor técnico da Shield Quantum Solutions, apresentou.
Alguns especialistas estão mais optimistas sobre como garantir que a tecnologia beneficie sempre o bem-estar humano. "Muitos dos problemas com os quais nos preocupamos hoje podem não ser os mais difíceis de resolver. Os verdadeiros desafios podem ser problemas desconhecidos que ainda não imaginamos. Uma das melhores maneiras de alcançar o futuro impulsionado pela IA que desejamos é envolver-se ativamente, ", disse o notável futurista Kevin Kelly na conferência do Bund.
Use IA para controlar “fraude de IA”
Com o rápido desenvolvimento da tecnologia de IA, a tecnologia deepfake (Deepfake), que usa algoritmos de aprendizagem profunda para simular e forjar conteúdo de áudio e vídeo, tornou-se cada vez mais madura, incidentes cruéis, como "fraude de mudança de rosto de IA", que ocorreram nos últimos anos. despertaram o interesse das pessoas na aplicação da tecnologia Pensando no risco.
Pode ser uma forma eficaz de usar a tecnologia de IA para identificar e prevenir com precisão o risco de “mudança de face da IA” e “usar a IA para derrotar a IA”. No entanto, as falsificações criadas pela IA podem ser identificadas pela IA?
Uma competição focada nos riscos de fraude da tecnologia de “mudança de face da IA” fornece a resposta. Na competição de exibição do AI Innovation Competition da Bund Conference e do Global Deepfake Offensive and Defense Challenge, a questão foi apresentada conjuntamente pela Escola de Segurança do Ciberespaço da Universidade de Ciência e Tecnologia da China e pelo Ant Digital Dimensity Laboratory. Os competidores usaram os modelos de IA que estudaram para modificar a IA e identificar imagens e vídeos que foram processados.
Na trilha de imagens, há 9 fotos que são difíceis de distinguir entre verdadeiro e falso a olho nu, mas os competidores precisam usar seus próprios modelos participantes para dar a probabilidade de falsificação de cada foto, e comparar as duas fotos com o valores de probabilidade mais altos com as respostas corretas. Na trilha de vídeo, os jogadores também precisam usar modelos de IA para identificar a autenticidade dos vídeos.
É importante notar que, em termos de pontuações dos concorrentes presenciais, em algumas questões moderadamente difíceis, os resultados de ambos os lados foram próximos e a taxa de reconhecimento de falsificação foi quase superior a 80%. No entanto, em algumas questões altamente difíceis, os resultados do modelo. eram muito diferentes.
Alguém no local perguntou: “Por que a IA não consegue responder totalmente a uma imagem que parece falsa a olho nu? E uma imagem que é difícil de distinguir a olho nu, a IA pode reconhecer em um segundo?”
A este respeito, Zhou Tianyi, cientista-chefe do Frontier Artificial Intelligence Research Center da Agência de Ciência, Tecnologia e Pesquisa de Singapura, acredita que os humanos confiam na intuição e na lógica para julgar se uma imagem é falsa, por exemplo, se o rosto de outra pessoa. é substituído pelo rosto de um ator de cinema, os humanos podem perceber à primeira vista. A IA não entende a história por trás disso. Mas a IA não é tão suscetível a interferências emocionais quanto os humanos e completará as instruções meticulosamente. Desta perspectiva, a IA é “superior” aos humanos em termos de eficiência e estabilidade no trabalho.
No entanto, o desenvolvimento de algoritmos de detecção é apenas uma maneira de conter o abuso da tecnologia deepfake. Yao Weibin, um dos questionadores do jogo, admitiu que esse método está relativamente atrasado. Para evitar a fraude pela causa raiz, deveríamos exigir o estabelecimento de um identificador universal para o conteúdo do AIGC do ponto de vista dos padrões e da legislação. Por exemplo, todo vídeo ou imagem gerado pelo AIGC deve ter uma assinatura ou marca d'água nas informações do arquivo. que o gerenciamento da plataforma tenha mais base.
"Para o público em geral, a falsificação profunda é agora muito provável e gradualmente entrou em nossas vidas, e até vazou a privacidade das pessoas." O professor Zhou Wenbo, da Escola de Segurança do Ciberespaço da Universidade de Ciência e Tecnologia da China, sugeriu não fazer isso facilmente. em locais públicos. Mostre seus próprios dados faciais e evite ao máximo o vazamento de dados faciais "À medida que a tecnologia de síntese ficar cada vez melhor, seremos enganados cada vez mais profundamente, mas enquanto pudermos permanecer vigilantes, nós. ainda pode ter um grande impacto." A probabilidade não é comprometida pela fraude."