HomePage // Документация // Letta Cloud
? Letta - это рамка с открытым исходным кодом для строительства приложений LLM Stateful. Вы можете использовать Letta для создания государственных агентов с расширенными возможностями рассуждений и прозрачной долгосрочной памятью. Letta Framework-это белая коробка и модель-агностик.
Примечание
Ищете Мемгпт? Ты в нужном месте!
Пакет MEMGPT и изображение Docker были переименованы в letta
чтобы прояснить различие между агентами MEMGPT и сервером API / времени выполнения, которое запускает агенты LLM в качестве сервисов .
Вы используете Letta Framework для создания агентов MEMGPT . Узнайте больше о отношениях между Мемгптом и Леттой здесь.
Двумя основными способами установки Letta являются через PYPI ( pip
) или через Docker :
pip
(Руководство ниже) - самый простой способ попробовать Letta, по умолчанию использует SQLite и ChromADB для бэкэндов базы данныхpip
$ pip install -U letta
$ export OPENAI_API_KEY=sk-...
Для Олламы (см. Наша полная документация для примеров того, как настроить различных поставщиков):
$ export OLLAMA_BASE_URL=http://localhost:11434
Вы можете создавать агентов и общаться с ними через инструмент Letta Cli ( letta run
):
$ letta run
? Creating new agent...
? Select LLM model: letta-free [type=openai] [ip=https://inference.memgpt.ai]
? Select embedding model: letta-free [type=hugging-face] [ip=https://embeddings.memgpt.ai]
-> ? Using persona profile: 'sam_pov'
-> ? Using human profile: 'basic'
-> 8 tools: send_message, pause_heartbeats, conversation_search, conversation_search_date, archival_memory_insert, archival_memory_search, core_memory_append, core_memory_replace
? Created new agent 'InspiringSpinach'
Hit enter to begin (will request first Letta message)
? User engaged. Recognize as Chad. Acknowledge presence and establish connection. Explore interests and engage in meaningful discourse.
? Hello, Chad. It's nice to meet you. I am keen on learning and exploring new ideas and concepts. Is there a specific topic you'd like to discuss today?
> Enter your message: my name is Brad, not Chad...
? A discrepancy in identity. Reflect this change in core memory. Apologize for the oversight, and rectify the error.
⚡? [function] updating memory with core_memory_replace
First name: Chad
→ First name: Brad
? Apologize for the mistake in recognizing his name, and begin the conversation anew, addressing him by the correct name this time.
? I apologize for the oversight, Brad. Let's restart. It's a pleasure to meet you, Brad. Is there a specific topic you'd like to discuss today?
> Enter your message:
Вы можете запустить сервер API Letta с letta server
(см. Полную ссылку на API здесь):
$ letta server
Initializing database...
Running: uvicorn server:app --host localhost --port 8283
INFO: Started server process [47750]
INFO: Waiting for application startup.
INFO: Application startup complete.
INFO: Uvicorn running on http://localhost:8283 (Press CTRL+C to quit)
Когда вы запустите сервер API Letta, ADE (среда разработки агента) будет доступна на http://localhost:8283
:
В Letta все агенты хранятся/сохраняются в одной и той же базе данных, поэтому агенты, которые вы создаете в CLI, доступны через API и ADE, и наоборот. Проверьте руководство QuickStart в наших документах для учебного пособия, где вы создаете агента в Letta CLI и сообщаете об одном агенте через API Letta.
Letta - это проект с открытым исходным кодом, созданный более сотнями участников. Есть много способов участвовать в проекте Letta OSS!
#support
.Юридические уведомления : используя LETTA и связанные с ним услуги LETTA (например, конечная точка Letta или размещенная услуга), вы соглашаетесь с нашей политикой конфиденциальности и Условиями обслуживания.