Downcodes의 편집자는 미시간 대학의 연구원들이 대규모 언어 모델 훈련의 에너지 소비를 크게 줄일 수 있는 Perseus라는 소프트웨어 도구를 개발했다는 사실을 알게 되었습니다. 이번 획기적인 연구 결과는 인공지능의 지속가능한 발전을 위한 새로운 방향을 제시하며, 인공지능 훈련의 에너지 소비에 대한 우려가 커지고 있는 문제를 해결할 수 있을 것으로 기대된다. 페르세우스는 중요한 경로를 식별하고 최적화함으로써 동일한 훈련 속도를 유지하면서 에너지 소비를 30% 줄입니다. 이는 환경 보호 및 자원 활용에 매우 중요합니다.
연구원들은 완료하는 데 가장 오랜 시간이 걸리는 일련의 하위 작업인 중요 경로를 식별하여 페르세우스라는 소프트웨어 도구를 개발했습니다. 그런 다음 페르세우스는 중요하지 않은 경로의 프로세서 속도를 줄여 모든 작업을 동시에 완료할 수 있도록 하여 불필요한 전력 소비를 제거합니다.
팀은 GPT-3, 다른 세 가지 대형 언어 모델 및 컴퓨터 비전 모델을 훈련하여 페르세우스를 테스트했습니다. 결과는 페르세우스가 동일한 훈련 속도를 유지하면서 AI 훈련의 에너지 소비를 줄일 수 있음을 보여줍니다.
연구원들은 이러한 노동 절약형 접근 방식이 인공 지능의 공평한 사용에 중요한 영향을 미친다고 말합니다. 국가에 대형 모델을 운영할 전력이 충분하지 않은 경우 원격 서비스를 사용해야 하거나 더 작고 정확도가 떨어지는 모델만 운영해야 할 수도 있습니다. 이러한 격차는 다양한 커뮤니티 간의 격차를 더욱 악화시킬 수 있습니다.
연구 결과에 따르면 AI 훈련 방법을 최적화하면 동일한 훈련 속도를 유지하면서 에너지 소비를 줄일 수 있는 것으로 나타났습니다. 이는 에너지를 절약하고 탄소 배출량을 줄이는 데 중요한 의미를 갖습니다.
페르세우스의 등장은 AI 분야의 지속가능한 발전에 새로운 희망을 가져왔다. 효율적인 에너지 소비 제어 전략은 많은 에너지를 절약할 수 있을 뿐만 아니라 AI 기술의 공정성과 포용성을 촉진해 인류 발전에 기여할 수 있다. 글로벌 AI. 이 연구 결과는 앞으로 더 많은 유사한 기술이 등장하여 AI 산업을 보다 친환경적인 미래로 이끌어갈 것이라는 우리의 관심과 심층적인 연구에 가치가 있다고 믿습니다.