El editor de Downcodes se enteró de que investigadores de la Universidad de Michigan han desarrollado una herramienta de software llamada Perseus que puede reducir significativamente el consumo de energía del entrenamiento de modelos de lenguaje grandes. Este innovador resultado de investigación proporciona una nueva dirección para el desarrollo sostenible de la inteligencia artificial y se espera que resuelva las crecientes preocupaciones sobre el consumo de energía del entrenamiento en inteligencia artificial. Al identificar y optimizar rutas críticas, Perseus reduce el consumo de energía en un 30 % manteniendo la misma velocidad de entrenamiento, lo cual es de gran importancia para la protección del medio ambiente y la utilización de recursos.
Los investigadores desarrollaron una herramienta de software llamada Perseus identificando la ruta crítica, la serie de subtareas que tardan más en completarse. Luego, Perseus ralentiza los procesadores en rutas no críticas para que todos puedan completar su trabajo al mismo tiempo, eliminando el consumo de energía innecesario.
El equipo probó Perseus entrenando GPT-3, otros tres modelos de lenguaje grandes y un modelo de visión por computadora. Los resultados muestran que Perseus puede reducir el consumo de energía del entrenamiento de IA manteniendo la misma velocidad de entrenamiento.
Los investigadores dicen que este enfoque de ahorro de mano de obra tiene implicaciones importantes para el uso equitativo de la inteligencia artificial. Si un país no tiene suficiente electricidad para ejecutar un modelo grande, es posible que necesite utilizar servicios remotos o limitarse a ejecutar modelos más pequeños y menos precisos. Esta disparidad puede exacerbar aún más las disparidades entre diferentes comunidades.
El estudio muestra que al optimizar los métodos de entrenamiento de IA, se puede reducir el consumo de energía manteniendo la misma velocidad de entrenamiento. Esto tiene implicaciones importantes para ahorrar energía y reducir su huella de carbono.
El surgimiento de Perseus ha traído nuevas esperanzas al desarrollo sostenible del campo de la IA. Su estrategia eficiente de control del consumo de energía no solo puede ahorrar mucha energía, sino que también promueve la equidad y la inclusión de la tecnología de IA, contribuyendo al desarrollo de. IA mundial. El resultado de esta investigación merece nuestra atención y un estudio en profundidad. Creo que en el futuro aparecerán más tecnologías similares, lo que impulsará a la industria de la IA hacia un futuro más ecológico.