codefuse chatbot

중국어 |

CodeFuse-ChatBot: 개인 지식 증강을 통한 개발

CodeFuse-ChatBot은 소프트웨어 개발 수명 주기의 모든 측면을 단순화하고 최적화하는 데 전념하는 Ant CodeFuse 팀이 개발한 오픈 소스 AI 지능형 도우미입니다. 이 프로젝트는 다중 에이전트의 협업 일정 메커니즘을 결합하고 풍부한 도구 라이브러리, 코드 라이브러리, 지식 기반 및 샌드박스 환경을 통합하여 LLM 모델이 DevOps 분야의 복잡한 작업을 효과적으로 실행하고 처리할 수 있도록 합니다.

? 갱신하다

• [2024.01.29] 개방형 및 구성 가능한 다중 에이전트 프레임워크: codefuse-muAgent, 자세한 내용은 사용 지침을 참조하세요.
• [2023.12.26] 오픈소스 민영화된 대형 모델 및 FastChat 기반의 대형 모델 인터페이스에 접근하는 기능 공개
• [2023.12.14] Qubit 공개 계정 특별 보고서: 기사 링크
• [2023.12.01] Multi-Agent 및 코드베이스 검색 기능 오픈
• [2023.11.15] 로컬 코드 베이스 기반 Q&A 강화 모드 추가
• [2023.09.15] 로컬/격리 환경의 샌드박스 기능이 오픈되고, 크롤러 기반으로 지정된 URL 지식 검색이 구현됩니다.

목차

• ? 소개하다
• ? 데모 비디오
• ? 기술 경로
• 모델 액세스
• 빠른 사용
• ?
• ? 다른
  • 문의하기
  • 역사처럼

? 소개하다

이 프로젝트는 설계, 코딩, 테스트, 배포, 운영 및 유지 관리 단계를 포괄하는 RAG(검색 증강 생성), 도구 학습 및 샌드박스 환경을 통해 소프트웨어 개발의 전체 수명주기를 위한 AI 지능형 도우미를 구축하는 것을 목표로 합니다. 어디서나 데이터 쿼리의 전통적인 개발 및 운영 모델과 독립적이고 분산된 플랫폼 운영에서 대형 모델 질문 및 답변의 지능적인 개발 및 운영 모델로 점차 전환하여 사람들의 개발 및 운영 습관을 변화시킵니다.

본 프로젝트의 핵심 차별화 기술 및 기능 포인트는 다음과 같습니다.

• ? 지능형 디스패칭 코어: 다중 모드 원클릭 구성을 지원하고 운영 프로세스를 단순화하기 위해 완전한 시스템 링크를 갖춘 디스패칭 코어가 구축되었습니다. 사용 지침
• 전체 코드 라이브러리 분석: 웨어하우스 수준 코드는 물론 프로젝트 파일 수준 코드 작성 및 생성에 대한 심층적인 이해를 달성하여 개발 효율성을 향상시킵니다.
• ? 문서 분석 강화: 문서 지식베이스와 지식 그래프를 통합하고, 검색 및 추론 강화를 통해 문서 분석에 대한 심층적인 지원을 제공합니다.
• ? 수직 카테고리에 대한 독점 지식: DevOps 분야에 맞춤화된 독점 지식 베이스로, 편리하고 실용적인 수직 지식 베이스의 셀프 서비스 원클릭 구축을 지원합니다.
• ? 수직 모델 호환성: DevOps 분야의 소형 모델을 목표로 DevOps 관련 플랫폼과의 호환성을 보장하고 기술 생태계의 통합을 촉진합니다.

? 오픈 소스 LLM 및 Embedding 모델을 사용하여 이 프로젝트는 오픈 소스 모델을 기반으로 하는 오프라인 프라이빗 배포를 실현할 수 있습니다. 또한 이 프로젝트는 OpenAI API 호출도 지원합니다. 데모에 액세스

핵심 R&D팀은 오랫동안 AIOps + NLP 분야 연구에 집중해 왔습니다. 우리는 Codefuse-ai 프로젝트를 시작했으며 모든 사람들이 "세상에서 개발을 쉽게 만든다"는 목표를 달성하기 위해 이 솔루션을 공동으로 개선하기 위해 고품질의 개발과 운영 및 유지 관리 문서를 널리 기여하기를 바랍니다.

? 데모 비디오

Codefuse-ChatBot의 기능과 사용법을 보다 직관적으로 이해할 수 있도록 일련의 데모 영상을 녹화했습니다. 이 영상을 시청하시면 본 프로젝트의 주요 기능과 운영 절차를 빠르게 이해하실 수 있습니다.

• 기술 자료 가져오기 및 Q&A: 데모 비디오
• 로컬 저장소 가져오기 및 Q&A: 데모 비디오

? 기술 경로

• ? 다중 에이전트 스케줄 코어: 대화형 에이전트를 생성하도록 쉽게 구성할 수 있는 다중 에이전트 스케줄링 코어입니다.
• ?️ 멀티 소스 웹 크롤러: 필요한 정보를 수집하기 위해 지정된 URL에 대한 크롤링 기능을 제공하는 멀티 소스 웹 크롤러입니다.
• 데이터 프로세서: 데이터 프로세서는 문서 로딩, 데이터 정리, 텍스트 분할을 쉽게 완료하고 다양한 소스의 데이터를 통합할 수 있습니다.
• ? 텍스트 임베딩 및 인덱스:: 텍스트 임베딩 인덱스를 통해 사용자는 문서 검색을 위한 파일을 쉽게 업로드하여 문서 분석 프로세스를 최적화할 수 있습니다.
• ?️ 벡터 데이터베이스 및 그래프 데이터베이스: 유연하고 강력한 데이터 관리 솔루션을 제공하는 벡터 및 그래프 데이터베이스입니다.
• 프롬프트 제어 및 관리: 프롬프트 제어 및 관리는 에이전트의 컨텍스트를 정확하게 정의합니다.
• ? SandBox:: 코드 컴파일 및 작업을 안전하게 수행하기 위한 샌드박스 환경입니다.
• LLM:: 에이전트 브레인, 여러 오픈 소스 모델 및 LLM 인터페이스를 지원합니다.
• API 관리:: 오픈 소스 구성 요소와 운영 및 유지 관리 플랫폼을 신속하게 통합하기 위한 API 관리 도구입니다.

구체적인 구현 세부 사항은 다음을 참조하십시오. 기술 경로 세부 사항 및 프로젝트 계획 후속 조치: 프로젝트

모델 액세스

특정 모델을 통합해야 하는 경우 문제를 제출하여 요구 사항을 알려주십시오.

모델_이름	모델_크기	GPU_메모리	정량화하다	HF허브	모델범위
chatgpt	-	-	-	-	-
코델라마-34b-int4	34b	20g	정수4	곧 온다	링크

빠른 사용

muagent-py

전체 문서를 보려면 CodeFuse-muAgent를 참조하세요.

 pip install codefuse-muagent

챗봇 사용하기

nvidia 드라이버를 직접 설치하세요. 이 프로젝트는 Python 3.9.18, CUDA 11.7 환경, Windows 및 X86 아키텍처 macOS 시스템에서 테스트되었습니다.

Docker 설치, 개인화된 LLM 액세스 및 관련 시작 문제에 대해서는 빠른 사용 세부 정보를 참조하세요.

Apple Silicon의 경우 먼저 Brew install qpdf를 실행해야 할 수도 있습니다.

1. Python 환경 준비

• Python 환경을 관리하려면 conda를 사용하는 것이 좋습니다(선택 사항).

 # 准备 conda 环境
conda create --name devopsgpt python=3.9
conda activate devopsgpt

• 관련 종속성 설치

 cd codefuse-chatbot
# python=3.9，notebook用最新即可，python=3.8用notebook=6.5.6
pip install -r requirements.txt

2. 서비스 시작

 # 完成server_config.py配置后，可一键启动
cd examples
bash start.sh
# 开始在页面进行相关配置，然后打开`启动对话服务`即可

또는 start.py 더 많은 LLM 액세스 방법을 보려면 자세한 내용을 참조하세요.

기여 가이드

Codefuse 프로젝트에 대한 귀하의 관심에 진심으로 감사드립니다. Codefuse 프로젝트에 대한 귀하의 제안, 의견(비판 포함), 의견 및 기여를 진심으로 환영합니다.

Codefuse에 대한 여러분의 다양한 제안, 의견, 의견은 GitHub의 이슈를 통해 직접 제출하실 수 있습니다.

Codefuse 프로젝트에 참여하고 기여하는 방법에는 코드 구현, 테스트 작성, 프로세스 도구 개선, 문서 개선 등 다양한 방법이 있습니다. 어떠한 기여라도 환영하며 귀하는 기여자 목록에 추가됩니다. 자세한 내용은 기여 가이드를 참조하세요...

?

이 프로젝트는 langchain-chatchat과 codebox-api를 기반으로 하며, 그들의 오픈 소스 기여에 깊은 감사를 표하고 싶습니다!

? 다른

문의하기

역사처럼