El CEO antrópico de Startup AI de $ 19 mil millones, Dario Amodei, pronunció recientemente un discurso sobre riesgos de desarrollo de inteligencia artificial en la Conferencia de AI de San Francisco, que causó discusiones acaloradas. Hay una diferencia significativa en las opiniones de los riesgos de IA con el inversor de riesgo Marc Andreessen. Él cree que aunque las amenazas de modelo de IA actual son limitadas, el rápido desarrollo de la tecnología de IA, especialmente después del agente de IA del comando de ejecución independiente, no puede ser ignorada y se debe establecer un mejor mecanismo de control. Esto ha provocado una discusión profunda sobre la seguridad y la supervisión de la IA.
El CEO DARIO AMODEI, una startup de AI de $ 19 mil millones Anthrope, publicó una visión reflexiva sobre el tema del desarrollo de inteligencia artificial en la Conferencia de AI de San Francisco el miércoles. Aunque cree que el modelo actual de IA no trae a los seres humanos de inmediato, ha criado fuertes críticas a algunos de sus compañeros abrumadores de riesgos de IA.
AmoDei lanzó un análisis único sobre las opiniones del famoso inversor de riesgo Marc Andreessen. Andreessen tuiteó en marzo de este año que "restringir la IA es equivalente a restringir las matemáticas, el software y las papas fritas", y simplemente atribuir IA a "matemáticas". En este sentido, AmoDei señaló que esta lógica tiene defectos fundamentales. "Si se usa esta lógica, ¿no es la matemática del cerebro humano? La descarga y el cálculo de las neuronas también son matemáticas. Según esta declaración, ni siquiera debemos tener miedo de Hitler, porque eso es solo matemáticas". "" "" "
Como ex vicepresidente de OpenAi, Amonei fundó Anthrope en 2021. Pertenece a aquellos ejecutivos científicos y tecnológicos que han advertido públicamente los riesgos potenciales de la IA y apoyan a la industria de la IA con moderación. De hecho, Anthrope también ha apoyado una Ley de Supervisión de AI de California, aunque el proyecto de ley finalmente fue rechazado.
En marcado contraste, ha invertido en Andreessen, incluidos OpenAi y Xai. Insistió en que la tecnología de IA debería desarrollarse sin restricciones, e incluso se refería a la facción de advertencia de seguridad de la IA como "culto", y creía que la supervisión de la IA conduciría al "nuevo totalitarismo".
Aunque AmoDei admite que el modelo AI actual "no es lo suficientemente inteligente y lo suficientemente autónomo", no representará una amenaza seria para los humanos, pero enfatizó que la tecnología de IA está evolucionando rápidamente. Especialmente con la aparición del "agente" de la IA que puede ejecutar de forma independiente los comandos humanos, el público reconocerá aún más la capacidad de la IA y su posible daño.
"Ahora la gente puede reírse de algunos comportamientos impredecibles de robots de chat", dijo Amodei, "pero para el futuro agente de IA, debemos establecer un mejor mecanismo de control".
Esta controversia no solo refleja las diferencias en los problemas de seguridad en la industria de la IA, sino que también destaca la importancia de encontrar un punto de equilibrio entre la innovación y la supervisión en el momento en que se desarrolla el rápido desarrollo de la IA. Si bien la tecnología es rápida, la evaluación racional y los riesgos potenciales serán la clave para garantizar el desarrollo saludable de la IA.
El punto de vista de Amodei ha provocado un pensamiento profundo en la dirección futura de la IA, y también nos recuerda que debemos prestar atención a los riesgos potenciales, mientras que el desarrollo de la tecnología de IA, busca el equilibrio de innovación y supervisión, y garantiza que la IA beneficie a los humanos .