O modelo de IA de próxima geração da xAI, Grok3, originalmente planejado para ser lançado no final de 2024, não saiu conforme planejado, causando preocupação à indústria. Grok3 está posicionado como um produto para competir com GPT-4 e Gemini, possui análise de imagens e capacidade de resposta a perguntas e é usado na plataforma social X de Musk. Atrasos no seu processo de desenvolvimento, bem como atrasos em projetos semelhantes de outras empresas de IA, levaram a pensar sobre os gargalos dos atuais métodos de formação em IA.
Recentemente, o modelo de IA de próxima geração Grok3, originalmente programado para ser lançado no final de 2024 pela xAI, uma empresa de IA fundada por Elon Musk, não chegou conforme programado. Esta notícia atraiu ampla atenção na indústria. Grok3 é considerado o principal produto competitivo da xAI contra o GPT-4 da OpenAI e o Gemini do Google. Possui análise de imagens e recursos de perguntas e respostas, e foi aplicado na rede social X de Musk.
No verão passado, Musk disse na plataforma X que Grok3 seria “um grande avanço esperado após 100.000 treinamentos H100”. Mas em 2 de janeiro, logo após o ano novo, Grok3 ainda não foi lançado e não havia sinal de que seria lançado em breve. É relatado que uma versão intermediária "Grok2.5" pode ser lançada primeiro.
Este fenômeno não é um caso isolado. Muitas empresas do setor de IA passaram por situações embaraçosas semelhantes. Tomemos como exemplo a startup de IA Antrópico. No ano passado, ela não conseguiu lançar o sucessor de seu modelo Claude3Opus, Claude3.5Opus, conforme planejado, e até decidiu abandonar o lançamento do modelo após anunciar que o modelo seria lançado até o final. de 2024. Além disso, o Google e a OpenAI também sofreram atrasos no lançamento de seus principais modelos.
Por trás desta série de atrasos pode refletir os gargalos enfrentados pelos atuais métodos de treinamento de IA. No passado, as empresas conseguiam obter ganhos significativos de desempenho através de um enorme poder de computação e de maiores conjuntos de dados para formação. Mas à medida que a melhoria do desempenho de cada geração de modelos diminui gradualmente, as empresas começam a procurar tecnologias alternativas para ultrapassar o actual estrangulamento. Em entrevista ao apresentador de podcast Lex Fridman, Musk disse que embora suas expectativas para o Grok 3 sejam altas, ele também admitiu que pode não se concretizar.
Além disso, o pequeno tamanho da equipe xAI também pode ser um dos motivos importantes para o atraso do Grok3. Entre os concorrentes, o xAI possui recursos e mão de obra relativamente limitados, o que sem dúvida os faz enfrentar mais desafios no desenvolvimento de novos modelos.
No geral, o atraso do Grok3 não é apenas um pequeno episódio do xAI, mas também uma tendência geral que toda a indústria de IA mostra ao enfrentar gargalos técnicos.
O atraso no lançamento do Grok3 destaca os desafios técnicos e as pressões comerciais enfrentadas pela pesquisa e desenvolvimento de modelos de linguagem em larga escala. No futuro, a indústria de IA precisa explorar novos métodos e tecnologias de treinamento para lidar com o gargalo na melhoria do desempenho do modelo e melhorar a eficiência da pesquisa e desenvolvimento.