letta 다운로드 - letta 소스 코드 다운로드

letta

기타 소스코드

v0.5.3

다운로드

Letta 로고

Letta (이전에 memgpt)

홈페이지 // 문서 // Letta Cloud

? Letta는 Stateful LLM 응용 프로그램을 구축하기위한 오픈 소스 프레임 워크입니다. Letta를 사용하여 고급 추론 기능과 투명한 장기 메모리를 갖춘 상태 에이전트를 구축 할 수 있습니다. Letta 프레임 워크는 흰색 상자와 모델 비석입니다.

메모

memgpt를 찾고 계십니까? 당신은 올바른 장소에 있습니다!

MEMGPT 패키지와 Docker 이미지의 이름은 letta 로 이름이 바뀌어 MEMGPT 에이전트와 LLM 에이전트를 서비스 로 실행하는 API 서버 / 런타임 간의 차이점을 명확히합니다.

Letta 프레임 워크를 사용하여 MEMGPT 에이전트를 만듭니다. Memgpt와 Letta의 관계에 대해 자세히 알아보십시오.

happer QuickStart

Letta를 설치하는 두 가지 주요 방법은 PYPI ( pip ) 또는 Docker를 통한 것입니다.

pip (아래 가이드) - Letta를 시도하는 가장 쉬운 방법은 데이터베이스 백엔드에 SQLITE 및 ChromADB 사용에 기본값을 제공합니다.
Docker (Guide Here) - 프로덕션 설정에 권장되며 데이터베이스 백엔드에 Postgres (+ PGVector) 사용에 기본값이됩니다.

1 단계 - `pip` 사용하여 Letta를 설치하십시오

$ pip install -U letta

2 단계 - 선택한 LLM / 임베딩 제공 업체의 환경 변수 설정

$ export OPENAI_API_KEY=sk-...

Ollama의 경우 (다양한 제공 업체를 설정하는 방법의 예는 전체 문서를 참조하십시오) :

$ export OLLAMA_BASE_URL=http://localhost:11434

3 단계 - Letta Cli를 실행하십시오

Letta CLI 도구 ( letta run )를 통해 에이전트를 만들고 채팅 할 수 있습니다.

$ letta run

 ? Creating new agent...
? Select LLM model: letta-free [type=openai] [ip=https://inference.memgpt.ai]
? Select embedding model: letta-free [type=hugging-face] [ip=https://embeddings.memgpt.ai]
->  ? Using persona profile: 'sam_pov'
->  ? Using human profile: 'basic'
->    8 tools: send_message, pause_heartbeats, conversation_search, conversation_search_date, archival_memory_insert, archival_memory_search, core_memory_append, core_memory_replace

? Created new agent 'InspiringSpinach'

Hit enter to begin (will request first Letta message)

? User engaged. Recognize as Chad. Acknowledge presence and establish connection. Explore interests and engage in meaningful discourse.
? Hello, Chad. It's nice to meet you. I am keen on learning and exploring new ideas and concepts. Is there a specific topic you'd like to discuss today?

> Enter your message: my name is Brad, not Chad...

? A discrepancy in identity. Reflect this change in core memory. Apologize for the oversight, and rectify the error.
⚡? [function] updating memory with core_memory_replace
         First name: Chad
        → First name: Brad
? Apologize for the mistake in recognizing his name, and begin the conversation anew, addressing him by the correct name this time.
? I apologize for the oversight, Brad. Let's restart. It's a pleasure to meet you, Brad. Is there a specific topic you'd like to discuss today?

> Enter your message:

4 단계 - Letta 서버를 실행하십시오

letta server 사용하여 Letta API 서버를 시작할 수 있습니다 (여기에서 전체 API 참조 참조) :

$ letta server

 Initializing database...
Running: uvicorn server:app --host localhost --port 8283
INFO:     Started server process [47750]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     Uvicorn running on http://localhost:8283 (Press CTRL+C to quit)

Letta API 서버를 시작하면 ADE (에이전트 개발 환경)는 http://localhost:8283 에서 사용할 수 있습니다. Letta Ade (에이전트 개발 환경)의 스크린 샷

Letta에서는 모든 에이전트가 동일한 데이터베이스에 저장/지속되므로 CLI에서 작성한 에이전트는 API 및 ADE를 통해 액세스 할 수 있으며 그 반대도 마찬가지입니다. Letta CLI에 에이전트를 생성하고 Letta API를 통해 동일한 에이전트에게 메시지를 보내는 튜토리얼의 문서에 대한 QuickStart 안내서를 확인하십시오.