ホームページ//ドキュメント// lettaクラウド
? Lettaは、ステートフルLLMアプリケーションを構築するためのオープンソースフレームワークです。 LETTAを使用して、高度な推論機能と透明な長期記憶を備えたステートフルなエージェントを構築できます。 Lettaフレームワークは、白い箱とモデルに依存しています。
注記
memgptをお探しですか?あなたは正しい場所にいます!
MemgptパッケージとDockerイメージは、MEMGPTエージェントとLLMエージェントをサービスとして実行するAPIサーバー /ランタイムの区別を明確にするためにletta
に改名されました。
LETTAフレームワークを使用して、 Memgptエージェントを作成します。 MemgptとLettaの関係については、こちらをご覧ください。
Lettaをインストールする2つの主な方法は、 Pypi ( pip
)またはDocker経由です。
pip
(下記のガイド) - LETTAを試す最も簡単な方法は、データベースバックエンドにSQLiteとChromadbを使用するデフォルトをデフォルトしますpip
を使用してLETTAをインストールします$ pip install -U letta
$ export OPENAI_API_KEY=sk-...
Ollamaについて(さまざまなプロバイダーを設定する方法の例については、完全なドキュメントを参照してください):
$ export OLLAMA_BASE_URL=http://localhost:11434
エージェントを作成して、Letta CLIツール( letta run
)を介してチャットできます。
$ letta run
? Creating new agent...
? Select LLM model: letta-free [type=openai] [ip=https://inference.memgpt.ai]
? Select embedding model: letta-free [type=hugging-face] [ip=https://embeddings.memgpt.ai]
-> ? Using persona profile: 'sam_pov'
-> ? Using human profile: 'basic'
-> 8 tools: send_message, pause_heartbeats, conversation_search, conversation_search_date, archival_memory_insert, archival_memory_search, core_memory_append, core_memory_replace
? Created new agent 'InspiringSpinach'
Hit enter to begin (will request first Letta message)
? User engaged. Recognize as Chad. Acknowledge presence and establish connection. Explore interests and engage in meaningful discourse.
? Hello, Chad. It's nice to meet you. I am keen on learning and exploring new ideas and concepts. Is there a specific topic you'd like to discuss today?
> Enter your message: my name is Brad, not Chad...
? A discrepancy in identity. Reflect this change in core memory. Apologize for the oversight, and rectify the error.
⚡? [function] updating memory with core_memory_replace
First name: Chad
→ First name: Brad
? Apologize for the mistake in recognizing his name, and begin the conversation anew, addressing him by the correct name this time.
? I apologize for the oversight, Brad. Let's restart. It's a pleasure to meet you, Brad. Is there a specific topic you'd like to discuss today?
> Enter your message:
letta server
でLetta APIサーバーを開始できます(こちらのAPI完全なリファレンスを参照):
$ letta server
Initializing database...
Running: uvicorn server:app --host localhost --port 8283
INFO: Started server process [47750]
INFO: Waiting for application startup.
INFO: Application startup complete.
INFO: Uvicorn running on http://localhost:8283 (Press CTRL+C to quit)
LETTA APIサーバーを開始すると、ADE(エージェント開発環境)はhttp://localhost:8283
で入手できます。
Lettaでは、すべてのエージェントが同じデータベースに保存/持続しているため、CLIで作成するエージェントはAPIとADEを介してアクセスでき、その逆も同様です。 Letta CLIでエージェントを作成し、Letta APIを介して同じエージェントにメッセージを送信するチュートリアルについては、ドキュメントのQuickStartガイドをご覧ください。
Lettaは、100人以上の貢献者によって構築されたオープンソースプロジェクトです。 Letta OSSプロジェクトに参加する方法はたくさんあります!
#support
チャンネルに質問を向けてください。法的通知:LETTAおよび関連するLETTAサービス(LETTAエンドポイントやホストサービスなど)を使用することにより、当社のプライバシーポリシーと利用規約に同意します。