Chinês | Inglês
CodeFuse-ChatBot: Desenvolvimento por Aumento de Conhecimento Privado
CodeFuse-ChatBot é um assistente inteligente de IA de código aberto desenvolvido pela equipe Ant CodeFuse, dedicada a simplificar e otimizar todos os aspectos do ciclo de vida de desenvolvimento de software. Este projeto combina o mecanismo de agendamento colaborativo do Multi-Agente e integra uma rica biblioteca de ferramentas, biblioteca de códigos, base de conhecimento e ambiente sandbox, permitindo que o modelo LLM execute e lide com eficácia tarefas complexas no campo DevOps.
Este projeto visa construir um assistente inteligente de IA para todo o ciclo de vida de desenvolvimento de software através de Retrieval Augmented Generation (RAG), Tool Learning e um ambiente sandbox, abrangendo as etapas de design, codificação, teste, implantação e operação e manutenção. Gradualmente, transforme-se do modelo tradicional de desenvolvimento e operação de consulta de dados em todos os lugares e operação de plataforma independente e descentralizada para o modelo inteligente de desenvolvimento e operação de grande modelo de perguntas e respostas, mudando os hábitos de desenvolvimento e operação das pessoas.
As principais tecnologias diferenciadoras e pontos funcionais deste projeto são:
? Baseando-se nos modelos LLM e Embedding de código aberto, este projeto pode realizar implantação privada offline com base no modelo de código aberto. Além disso, este projeto também oferece suporte a chamadas de API OpenAI. Acessar demonstração
A equipe principal de P&D há muito se concentra em pesquisas na área de AIOps + PNL. Lançamos o projeto Codefuse-ai e esperamos que todos contribuam amplamente com documentos de desenvolvimento e operação e manutenção de alta qualidade para melhorar conjuntamente esta solução e atingir o objetivo de "tornar o desenvolvimento mais fácil no mundo".
Para ajudá-lo a entender as funções e o uso do Codefuse-ChatBot de forma mais intuitiva, gravamos uma série de vídeos de demonstração. Você pode entender rapidamente as principais características e procedimentos operacionais deste projeto assistindo a estes vídeos.
Para detalhes específicos de implementação, consulte: Detalhes do roteiro técnico e acompanhamento do plano do projeto: Projetos
Se você precisar integrar um modelo específico, informe-nos suas necessidades enviando um problema.
nome_modelo | tamanho_modelo | memória_gpu | quantificar | HFhub | ModelScope |
---|---|---|---|---|---|
chatgpt | - | - | - | - | - |
codelama-34b-int4 | 34b | 20g | int4 | em breve | link |
Para documentação completa, consulte: CodeFuse-muAgent
pip install codefuse-muagent
Instale você mesmo o driver nvidia. Este projeto foi testado em sistemas macOS de arquitetura Python 3.9.18, ambiente CUDA 11.7, Windows e X86.
Para instalação do Docker, acesso privatizado ao LLM e problemas de inicialização relacionados, consulte: Detalhes rápidos de uso
Para Apple Silicon, pode ser necessário preparar o qpdf primeiro.
Primeiro, preparação do ambiente python
# 准备 conda 环境
conda create --name devopsgpt python=3.9
conda activate devopsgpt
cd codefuse-chatbot
# python=3.9,notebook用最新即可,python=3.8用notebook=6.5.6
pip install -r requirements.txt
2. Inicie o serviço
# 完成server_config.py配置后,可一键启动
cd examples
bash start.sh
# 开始在页面进行相关配置,然后打开`启动对话服务`即可
Ou inicie a versão antiga através de start.py
Para mais métodos de acesso LLM, veja mais detalhes...
Muito obrigado pelo seu interesse no projeto Codefuse. Agradecemos suas sugestões, opiniões (incluindo críticas), comentários e contribuições para o projeto Codefuse.
Suas diversas sugestões, opiniões e comentários sobre o Codefuse podem ser enviados diretamente por meio de Issues no GitHub.
Há muitas maneiras de participar e contribuir com o projeto Codefuse: implementação de código, escrita de testes, melhorias em ferramentas de processo, melhorias em documentação e muito mais. Qualquer contribuição é muito bem-vinda e você será adicionado à lista de contribuidores. Consulte o Guia de Contribuição para obter detalhes...
Este projeto é baseado em langchain-chatchat e codebox-api, e gostaria de expressar minha profunda gratidão às suas contribuições de código aberto!