openai autogen dev studio

OADS- Openai Autogen Development Studio

OpenAI 에이전트를 사용하여 게임 및 프로그램을 생성합니다. Microsoft Autogen 위에 지어졌습니다.

켈 진행중인 작업
현재 코드는 작동하지만 :

• 변화를 깨뜨릴 것입니다.
  • 숨겨진 .env.jsonc 파일이 마지막 env.sample.jsonc 구조와 일치하는지 항상 확인하십시오.
  • poetry install 통해 항상 의존성을 업데이트하십시오.
• 캐싱, 단계별 프로세스, 대화 분할, 더 나은 프롬프트와 같은 토큰 사용량을 크게 줄이려면 많은 것을 최적화해야합니다.
• 코드는 일부 청소가 필요합니다.
• Microsoft Autogen은 여전히 ​​초기 단계에 있으며 몇 가지 버그가 포함되어 있습니다.
• 구성 파일을 통해 많은 하드 코딩 된 물건을 사용자 정의 할 수 있습니다.
• 처음에는 몇 가지 프로그래밍 언어에만 집중할 것입니다.

---

• 왜이 프로젝트인가?
• 시작하기
  • 사전 반품
  • 아나콘다
    • 1/3 설치
    • 2/3 구성
    • 3/3 실행
• 오픈 소스 LLM
  • 1/2 실행 텍스트 생성 웹 UI
  • 2/2 설정 OADS

---

왜이 프로젝트인가?

비슷한 일을하는 놀라운 프로젝트가 있지만 야심 찬 프로그램 세대를 해결할 수있는 방법을 찾고 싶습니다.

시작하기

사전 반품

OpenAI API 키 또는 Azure OpenAI API 키가 필요합니다.

"샘플"프로그램 이상의 것에 대해 turbo 또는 표준이든 GPT-3.5 에 의존하지 마십시오 . 보다 복잡한 응용 프로그램을 목표로하는 경우 GPT-4 꼭 GPT-4-32k 입니다.

OpenAI API를 사용하면 토큰 제한이 빠르게 소진 될 수 있습니다. 보다 광범위한 프로젝트의 경우 Azure OpenAI API가 권장됩니다.

야심 찬 목표가 있다면 비용을 염두에 두십시오 ! 항상 토큰 사용량과 에이전트가 수행하는 작업을 모니터링하십시오. AI는 강력한 도구가 될 수 있지만 실제 개발자를 고용하는 것보다 더 저렴한 것은 아닙니다.

아나콘다

1/3 설치

conda create -n autogen python=3.10
conda activate autogen
pip install poetry
poetry install
cp env.sample.jsonc env.jsonc

2/3 구성

env.json 을 편집하여 API 키를 추가하고 설치를 사용자 정의하십시오.

3/3 실행

단지:

make run

OADS는 ./project 디렉토리에서 프로그램 소스 코드를 자동으로 생성합니다.

다음을 통해 청소할 수 있습니다.

make clean

오픈 소스 LLM

중요 : 기능은 작동하지 않습니다.

1/2 실행 텍스트 생성 웹 UI

내가 테스트 한 바에 따르면 Autogen은 텍스트 생성 웹 UI가 지원하는 오픈 소스 LLM과 함께 작동하는 것 같습니다.

웹 UI의 "세션"탭에서 openai 확장을 활성화하면됩니다.

OpenAI와 같은 API가 노출되는 곳이므로 원격 서버 인 경우 5001 포트가 열리거나 부드럽게하십시오.

나는 개인적으로 runpod에 내 현재 모델을 배포하고 (제휴가 아님) thebloke/cuda11.8.0-ubuntu22.04-oneclick:latest 이미지를 사용합니다.

2/2 설정 OADS

  "models" : [
    // Custom deployment of (for example) `Open-Orca/Mistral-7B-OpenOrca`
    // using "Text generation web UI" with `OpenAI` extension enabled:
    // https://github.com/oobabooga/text-generation-webui/tree/main/extensions/openai#an-openedai-api-openai-like
    // This can be any inference endpoint compatible following OpenAI API specs,
    // regardless of the model you use behind it.
    {
      "model" : "Open-Orca/LlongOrca-13B-16k" ,
      "api_base" : "http://localhost:5001" , // Or your remote server URL
      "api_key" : "sk-111111111111111111111111111111111111111111111111" ,
      "api_type" : "open_ai"
    }
  ] ,