O mais recente modelo de linguagem em grande escala da Meta, Code Llama 70B, tem a maior escala de parâmetros e melhor desempenho, atraindo ampla atenção na indústria. No entanto, os altos custos de hardware tornaram-se uma grande barreira ao uso generalizado pelos desenvolvedores. Embora o modelo tenha apresentado excelente desempenho nos testes, alguns desenvolvedores questionaram seu desempenho e temem que a configuração de hardware necessária para seu funcionamento seja muito exigente e difícil de popularizar.
A Meta lançou o Code Llama 70B, alegando ter o melhor desempenho máximo, mas os desenvolvedores geralmente relataram que era difícil arcar com os altos custos de hardware. O modelo teve um bom desempenho no teste, mas alguns desenvolvedores apontaram que o desempenho não era tão bom quanto outros modelos e estavam preocupados se a configuração do hardware era suficiente para atender aos requisitos operacionais do modelo 70B.
O lançamento do Code Llama 70B destaca os desafios enfrentados no desenvolvimento de grandes modelos de linguagem: como encontrar um equilíbrio entre desempenho e custo. No futuro, métodos de treinamento e implantação de modelos mais econômicos se tornarão a chave para promover verdadeiramente a tecnologia de IA para beneficiar uma gama mais ampla de desenvolvedores e grupos de usuários.