Instrukt
v0.6.2
손끝에서 터미널 AI 사령관
더 많은 예제를 보려면 데모를 확인하세요.
참고 : 이는 진행 중인 작업이므로 버그 및 API 변경이 있을 수 있습니다.
Instrukt는 단말 기반 AI 통합 환경입니다. 사용자가 다음을 수행할 수 있는 플랫폼을 제공합니다.
모듈형 AI 에이전트 생성 및 지시
질문 답변을 위한 문서 색인 생성
도구를 생성하고 에이전트에 연결
에이전트는 확장하고, 다른 사람과 공유하고, 도구에 연결하고, 문서 색인으로 보강할 수 있는 간단한 드롭인 Python 패키지 입니다.
자연어로 지시하고 안전을 위해 보안 컨테이너(현재 Docker로 구현됨) 내에서 실행하여 샌드박스 전용 공간에서 작업을 수행하세요.
내장: Langchain, Textual, Chroma
컨설팅 서비스 : Langchain 또는 AI 통합에 도움이 필요하십니까? [email protected]로 저에게 연락하실 수 있습니다.
용법
특징
지원되는 플랫폼
LLM 모델
문서 색인 및 질문 답변
로드맵
기여
패트리온
사회의
비전
특허
pip install instrukt[all]
OpenAI API 키를 사용하여 OPENAI_API_KEY 내보냅니다.
instrukt 실행
색 구성표가 깨진 경우 TERM=xterm-256color 내보내세요.
~/.config/instrukt/instrukt.yml 에 구성 파일이 생성됩니다.
CUDA를 지원하는 docker 컨테이너나 헤드리스 서버에서 instrukt를 실행할 수 있습니다.
참고 : 베어 컨테이너로 시작하는 경우 최소한 g++ 및 libmagic이 필요합니다.
자세한 내용은 빠른 시작 및 설치 가이드를 확인하세요.
최신 버전의 poetry 설치되어 있는지 확인하세요.
가상 환경 설정
저장소 복제
poetry install -E all --with dev,test 실행
그러면 에이전트를 위한 추가 도구가 포함된 Instrukt가 설치됩니다.
자세한 내용은 설치 가이드를 참조하세요.
코딩 AI : 코딩 도우미. 모든 코드 베이스에 대한 인덱스를 생성하고 이를 에이전트에 연결하여 RAG(Retrieval Augmented Generation)를 수행합니다.
채팅Q&A : 간단한 대화형 에이전트입니다.
파워 키보드 사용자가 키보드를 떠나지 않고도 AI 에이전트에 지시할 수 있는 터미널 기반 인터페이스입니다.
Textual TUI 라이브러리 덕분에 마크다운 및 소스 코드 지원이 포함된 풍부하고 다채로운 에이전트 출력.
CUDA를 지원하는 베어메탈 또는 Docker 컨테이너에서 Instrukt를 실행하세요.
SSH 및 터미널 멀티플렉서를 통한 원격 액세스.
맞춤형 에이전트 및 도구를 디자인합니다.
에이전트는 다른 사용자가 공유하고 로드할 수 있는 간단한 Python 패키지입니다.
데이터를 색인화하고 상담원이 질문 답변을 위해 데이터를 검색할 수 있도록 하세요.
간편한 UI로 색인을 생성하고 구성하세요.
인덱스 생성은 프로그래밍 언어를 자동으로 감지 하고 이에 따라 분할/청크 전략을 최적화합니다.
검색에 사용된 퍼지 선택(fzf, dmenu ...) 소스 문서 ctrl+p
사전 정의된 도구 세트를 사용하거나 자신만의 도구를 디자인하세요.
이동 중인 에이전트에 도구를 연결하거나 분리하여 AI 워크플로를 필요에 맞게 조정하세요.
에이전트와의 빠른 상호 작용과 개발 및 테스트를 위한 빠른 피드백 루프를 위한 통합 REPL-프롬프트.
사용자 정의 명령을 사용하여 반복적인 작업을 자동화하세요.
내장 프롬프트/채팅 기록.
메시지를 편집하려면 vim , emacs 또는 외부 $EDITOR 사용하세요.
LangChain 생태계를 활용하여 모든 것을 자동화하세요.
WIP: 다른 프레임워크와 통합하기 위한 확장 가능한 API입니다.
안전과 개인정보 보호를 위해 보안 Docker 컨테이너 내에서 에이전트를 실행하세요.
에이전트를 완전히 격리하려면 gVisor 런타임을 사용하세요.
참고 : Docker 에이전트는 Patreon 지지자에게만 초기 미리보기로 제공됩니다.
내장된 IPython 콘솔을 사용하여 에이전트를 디버그하고 검사합니다. ctrl+d
OpenAI 또는 로컬 임베딩 모델을 사용하여 인덱스를 생성할 수 있습니다.
인덱스 관리를 위한 크로마.
인덱스 관리 UI를 사용하여 인덱스 생성 및 관리( I 누르기)
디렉토리를 인덱싱하면 프로그래밍 언어가 자동으로 감지되고 대상 언어에 최적화된 적절한 분할 전략이 사용됩니다.
에이전트 창 상단에 있는 index 메뉴를 사용하여 색인을 검색 도구로 모든 에이전트에 첨부할 수 있습니다.
상담원은 질문 답변을 위해 첨부된 색인을 사용할 수 있습니다.
리눅스/맥.
Windows는 WSL2에서 테스트되었습니다.
현재는 OpenAI 만 지원됩니다.
개인 로컬 모델을 사용하는 것이 다음 단계 입니다.
개인 로컬 LLM 모델
HF SetenceTransformers는 임베딩을 지원했습니다.
강사 임베딩
로컬 임베딩
텍스트 생성-webui API 사용
PrivateGPT 에뮬레이션
자체 호스팅 go-skynet/LocalAI 사용
인덱싱 및 임베딩
디렉터리 색인을 생성하고 콘텐츠를 자동 감지합니다. ( AutoDirLoader 참조)
프로그래밍 언어를 감지하고 적절한 분배기를 사용하십시오.
URL에서 git 저장소 로드
웹페이지/웹사이트를 로드하세요.
선적 서류 비치
에이전트 생성
도구 만들기
문서 및 소스 코드를 인덱싱하고 채팅합니다.
사용 사례 예시
튜토리얼.
어떤 기여, 피드백, 홍보도 환영합니다!
당신은 다음을 도울 수 있습니다:
유용한 버그나 기능에 대한 문제를 테스트하고 생성합니다.
기술적인 능력이 있다면 PR을 작성하셔도 좋습니다.
기술적인 능력이 없다면 문서화, 예제 및 튜토리얼 추가, 새로운 사용자 스토리 작성에 도움을 줄 수 있습니다.
후원자가 되시면 제가 Instrukt 개발에 계속 시간을 할애하고 계획된 모든 기능을 구현하는 데 도움이 될 것입니다. 초기 후원자에 대한 보상에 대한 자세한 내용은 Patreon 페이지를 확인하세요.
Discord 서버에 가입하여 진행 상황을 계속 업데이트하거나 도움을 요청하세요.
AI는 대기업과 SaaS 서비스만을 위한 울타리가 아닌 모든 사람이 접근할 수 있어야 합니다.
Instrukt는 사용자의 자유를 침해하지 않고 권한을 부여하는 도구를 만드는 데 약간의 기여를 합니다. 단기 목표는 외부 API 및 서비스에 대한 의존도를 최소화하면서 사용할 수 있도록 하고 사용자에게 로컬 모델 및 자체 호스팅 서비스를 선택할 수 있는 선택권을 제공하는 것입니다.
저작권 (c) 2023 Chakib Ben Ziane. 모든 권리 보유.
Instrukt는 AGPL 라이선스로 라이선스가 부여됩니다. 즉, 이는 누구나 어떤 목적으로든 사용할 수 있음을 의미합니다. 그러나 공개적으로 사용 가능한 인스턴스를 만들기로 결정한 경우 사용자는 귀하가 수행한 모든 수정 사항(웹 사이트의 버튼과 같은 인터페이스를 통해 사용할 수 있어야 함)을 포함하여 소스 코드의 복사본을 받을 수 있습니다. 이 프로젝트를 소스 코드가 포함되지 않은 형태(예: 코드를 컴파일/암호화하고 자신이 변경한 내용이 포함된 소스 코드를 배포하지 않고 이 버전을 배포하는 등)로 배포하지 마십시오. 비공개 형식으로 배포해도 됩니다. 당신도 제공한다면 소스 코드가 포함된 별도의 아카이브입니다.)
