La era de la inteligencia ha entrado en un nuevo capítulo y nuevas tecnologías como la IA (inteligencia artificial) están acelerando la integración con diversas industrias del mundo real. También surge la pregunta: ¿adónde nos llevará la creciente marea de la IA? ¿Cómo debemos afrontar el cambio tecnológico?
Del 5 al 7 de septiembre se celebró en Shanghai la Conferencia del Bund 2024. Como conferencia sobre tecnología financiera y tecnología de vanguardia de influencia mundial, la Conferencia del Bund ha tendido un puente entre la tecnología y las humanidades y se ha convertido en una ventana importante para observar la implementación y el desarrollo de la industria de la IA de China.
Se lanzó oficialmente el agente inteligente Huangshan Scenic Spot, el modelo a gran escala iFlytek Spark Medical, la exhibición del producto Guodun Quantum, la Escuela de Seguridad del Ciberespacio de la Universidad de Ciencia y Tecnología de China fue uno de los organizadores del concurso de exhibición de Global Deepfake. Desafío ofensivo y de defensa... muchas "escenas de Anhui" "Elementos de Anhui" también aparecieron simultáneamente, demostrando la profundidad humanista y la calidez de la ciencia y la tecnología junto con la Conferencia del Bund, haciendo que "cuanto más avanza la tecnología, más beneficia a todos". sigue siendo una realidad.
IA más profesional
Así como la máquina de vapor cambió el mundo porque comenzó a integrarse con barcos, trenes y máquinas textiles, el campo de la IA también está experimentando una evolución clave desde la "Batalla de cientos de modelos" hasta las "Aplicaciones industriales".
Los avatares digitales ayudan a completar el trabajo, las computadoras cerebrales ayudan a dormir profundamente y las fibras musculares artificiales te dan un cálido abrazo... La Conferencia del Bund fue una demostración concreta de la actual moda global en la industria de la IA. Los expertos predicen que la implementación industrial dentro de cinco años es la clave para la evolución continua de la tecnología de modelos grandes.
Como dice el refrán: "Deje las cosas profesionales a los profesionales". Las necesidades de cada persona y de cada industria son únicas. Para la inteligencia artificial que potencia a miles de industrias, los problemas más profesionales pueden requerir una IA más profesional para resolver.
Por lo tanto, promover grandes modelos desde capacidades generales hasta aplicaciones personalizadas es una de las propuestas centrales de la industria de la IA.
En esta Conferencia del Bund, Huangshan Scenic Spot y Alipay lanzaron por primera vez "Huangshan Space Intelligence" con un concepto de servicio "espacial", utilizando el modelo grande Ant Bailing como base técnica. Como resultado, Huangshan Scenic Spot se convirtió en el primero. "Escolta completa de IA" en China.
Como forma de producto de inteligencia artificial generativa, los agentes inteligentes son la dirección central de las aplicaciones actuales de modelos grandes, lo que permite que los modelos grandes crezcan "manos y pies". El agente espacial inteligente utiliza "AOI" (Área de interés) como su principal método de presentación y organización de servicios. Cuando el agente inteligente detecta que el usuario ha ingresado al Área Escénica de Huangshan, utilizará IA para analizar e impulsar los servicios que. es más probable que el usuario necesite.
Por ejemplo, antes de que un usuario compre un boleto, "Huangshan Space Intelligence" le informará sobre la temperatura del lugar escénico, recomendaciones de ropa y le recomendará guías de ruta de manera inteligente cuando el usuario llegue a la entrada del lugar escénico; el código QR del boleto se recuperará automáticamente cuando el usuario reconozca Cuando el usuario comience a escalar la montaña, se le explicará cada lugar escénico a lo largo del camino cuando el usuario llegue a la salida del lugar escénico, se pueden obtener datos interesantes sobre el viaje; generarse con un solo clic. Además, se pueden invocar y abrir rápidamente bicicletas compartidas, viajes compartidos en línea y otros servicios comúnmente utilizados durante los viajes.
"Bajo la ola de desarrollo de la IA, la industria del turismo cultural también se está embarcando y experimentando una revolución sin precedentes en tecnología y escenarios", dijo Zhang Dehui, presidente de Huangshan Tourism Development Co., Ltd., en comparación con el tradicional "uno-". "recorrido de código" y modelo de "recorrido de una máquina", el "área escénica inteligente de Huangshan" integra tecnología de modelo grande tecnología, base de conocimientos de turismo cultural, algoritmos de big data, interacción de voz y los últimos productos de aplicaciones que pueden lograr el aprendizaje independiente y la autoevolución "Aunque es un producto inicial para exploración y prueba, necesita actualizaciones iterativas continuas, pero esto marca nuestro. progreso en el desarrollo cultural y turístico." La transformación digital de la industria de viajes ha dado otro paso revolucionario".
Ilustración a partir de “Cuestiones de ciencia, tecnología y humanidades”
Cada innovación tecnológica en la historia de la humanidad va acompañada de "emoción" y "ansiedad".
¿Cómo lidiar con la competencia de la IA por puestos de trabajo con los humanos? ¿Se degradará la capacidad de pensamiento humano debido a la IA? ¿Qué tan lejos está la era de la "simbiosis hombre-máquina"? ¿Es posible que la IA trascienda las propiedades de las herramientas, adquiera conciencia e incluso establezca una civilización de IA? … Se puede ver en las Diez Preguntas sobre Ciencia, Tecnología y Humanidades publicadas en la Conferencia del Bund que los sentimientos del público hacia la IA son más complejos, con mucha ansiedad tecnológica.
El futuro es hacia arriba y hacia adelante, y la ciencia y la tecnología son buenas y hermosas. No importa cómo cambie la tecnología innovadora, el primer principio siempre es estar orientado a las personas.
En la Conferencia del Bund, Zhou Jian, un hombre de 24 años que perdió su brazo derecho a los 12, utilizó inteligencia artificial y tecnología de interfaz cerebro-computadora para tocar una canción de piano "Big Fish" con su mano biónica, dejando el público expresa su aprecio por el desarrollo de la tecnología al servicio de la humanidad. El bienestar se siente intuitivamente.
Vale la pena señalar que, si bien los nuevos cambios tecnológicos traen nuevos escenarios, nuevos negocios y nuevos mercados, también traen riesgos y desafíos sin precedentes en términos de ética tecnológica. ¿Cómo promover el rápido desarrollo de la tecnología de IA garantizando al mismo tiempo su seguridad, confiabilidad y controlabilidad, para que la IA pueda beneficiar a la sociedad humana de manera más responsable?
Tomemos como ejemplo los grandes modelos de IA. Actualmente, se están implementando grandes modelos en varias industrias a un ritmo acelerado, en particular, la remodelación de industrias rigurosas como la atención médica y las finanzas no tiene precedentes. estándares y las relaciones éticas más complejas.
Zhao Jinghe, vicepresidente del Instituto de Investigación Médica de iFlytek, compartió el progreso actual de la aplicación y la exploración de la ética de seguridad del modelo médico Spark de iFlytek en la Conferencia Bund. En cuanto a los problemas que enfrenta la aplicación de grandes modelos en escenarios médicos, cree que "los principales problemas son la privacidad de los datos, los derechos de propiedad intelectual y la responsabilidad moral. Sólo permitiendo que los grandes modelos resuelvan verdaderamente estos problemas podremos ayudar realmente a los médicos, pacientes, investigación científica y otros escenarios." .
“En términos de interpretación de la ley, no sólo es necesario regular y legislar a nivel gubernamental para garantizar la legalidad y el cumplimiento de los modelos de gran escala, las empresas también deben respetar la naturaleza de la atención médica, tomar medidas para fortalecer los datos; protección y obtener la autorización de derechos de autor necesaria para garantizar la equidad y el cumplimiento del modelo mientras se mejora la transparencia y se fortalece la educación pública", dijo Zhao Jinghe.
Como una de las importantes empresas de innovación científica y tecnológica de Anhui, Guodun Quantum también mostró una variedad de productos relacionados con la seguridad de la información en la oficina. "Por ejemplo, nuestros auriculares Bluetooth incorporan la tecnología de protección de la privacidad de las comunicaciones de voz desarrollada independientemente por Guodun Quantum, que puede proteger eficazmente la información privada de los usuarios durante llamadas, mensajes de voz, etc., haciendo que los usuarios se sientan más cómodos durante la comunicación", afirmó Guo. Presenta Zhang Rutong, director técnico de Shield Quantum Solutions.
Algunos expertos son más optimistas sobre cómo garantizar que la tecnología siempre beneficie al bienestar humano. "Muchos de los problemas que nos preocupan hoy pueden no ser los más difíciles de resolver. Los verdaderos desafíos pueden ser problemas desconocidos que aún no hemos imaginado. Una de las mejores maneras de lograr el futuro impulsado por la IA que queremos es involucrarse activamente. ", dijo el destacado futurista Kevin Kelly en la conferencia del Bund.
Utilice la IA para controlar el "fraude de IA"
Con el rápido desarrollo de la tecnología de inteligencia artificial, la tecnología deepfake (Deepfake), que utiliza algoritmos de aprendizaje profundo para simular y falsificar contenido de audio y video, se ha vuelto cada vez más madura. Los incidentes viciosos como el "fraude de cambio de rostro de IA" que han ocurrido en los últimos años. han despertado el interés de la gente por la aplicación de la tecnología.
Puede ser una forma eficaz de utilizar la tecnología de IA para identificar y prevenir con precisión el riesgo de "cambio de cara de la IA" y "utilizar la IA para derrotar a la IA". Sin embargo, ¿puede la IA identificar las falsificaciones creadas por la IA?
Un concurso centrado en los riesgos de fraude de la tecnología de "IA que cambia la cara" proporciona la respuesta. En el concurso de exhibición del Concurso de Innovación en IA de la Conferencia del Bund y el Desafío Global de Defensa y Ofensiva Deepfake, la pregunta fue presentada conjuntamente por la Escuela de Seguridad del Ciberespacio de la Universidad de Ciencia y Tecnología de China y el Laboratorio Ant Digital Dimensity. Los concursantes utilizaron los modelos de IA que estudiaron para modificar la IA. Detectar e identificar imágenes y videos que han sido procesados.
En la pista de imágenes, hay 9 imágenes que son difíciles de distinguir entre verdaderas y falsas a simple vista, pero los concursantes deben usar sus propios modelos participantes para dar la probabilidad de falsificación de cada imagen y comparar las dos fotos con la valores de probabilidad más altos con las respuestas correctas. En la pista de vídeo, los jugadores también deben utilizar modelos de IA para identificar la autenticidad de los vídeos.
Vale la pena señalar que en términos de puntajes de los concursantes en el sitio, en algunas preguntas moderadamente difíciles, los resultados de ambas partes fueron cercanos y la tasa de reconocimiento de falsificaciones fue casi superior al 80%. Sin embargo, en algunas preguntas muy difíciles, los resultados del modelo. eran muy diferentes.
Alguien en el lugar preguntó: "¿Por qué la IA no puede responder completamente a una imagen que parece falsa a simple vista? ¿Y una imagen que es difícil de distinguir a simple vista, la IA puede reconocerla en un segundo?".
En este sentido, Zhou Tianyi, científico jefe del Centro de Investigación de Inteligencia Artificial Frontier de la Agencia de Ciencia, Tecnología e Investigación de Singapur, cree que los humanos se basan en la intuición y la lógica para juzgar si una imagen es falsa, por ejemplo, si es el rostro de otra persona. Se reemplaza con la cara de un actor de película, los humanos pueden darse cuenta de un vistazo. La IA no comprende la historia detrás de esto. Pero la IA no es tan susceptible a la interferencia emocional como los humanos y completará las instrucciones meticulosamente. Desde esta perspectiva, la IA es “superior” a los humanos en términos de eficiencia y estabilidad en el trabajo.
Sin embargo, desarrollar algoritmos de detección es sólo una forma de frenar el abuso de la tecnología deepfake. Yao Weibin, uno de los creadores de preguntas del juego, admitió que este método está relativamente rezagado. Para prevenir el fraude desde la causa raíz, deberíamos exigir el establecimiento de un identificador universal para el contenido de AIGC desde la perspectiva de los estándares y la legislación. Por ejemplo, cada video o imagen generado por AIGC debe tener una firma o marca de agua en la información del archivo. esa gestión de plataformas tiene más fundamento.
"Para el público en general, la falsificación profunda es ahora muy probable y ha entrado gradualmente en nuestras vidas, e incluso ha filtrado la privacidad de las personas". El profesor Zhou Wenbo de la Escuela de Seguridad del Ciberespacio de la Universidad de Ciencia y Tecnología de China, sugirió no hacerlo fácilmente. en lugares públicos. muestre sus propios datos faciales y evite la filtración de datos faciales tanto como sea posible "A medida que la tecnología de síntesis mejore cada vez más, seremos engañados cada vez más, pero mientras podamos permanecer alerta, Todavía puede tener un gran impacto." La probabilidad no se ve comprometida por el fraude".