Демо-версия агента Amazon Bedrock

Помощник по экипировке

Что мне надеть сегодня? Источник: Titan Image Generator G1 — «иллюстрация разной погоды и нарядов».

Примечание. Демоверсия предполагает наличие у вас учетной записи OpenWeatherMap и ключа API для доступа к службе погоды. Эта услуга доступна в бесплатном плане OpenWeatherMap. Прежде чем продолжить, ознакомьтесь со всеми условиями лицензии, применимыми к службе, вместе со своим юридическим отделом и убедитесь, что ваш вариант использования соответствует условиям.

Введение

Этот репозиторий содержит код для демо-версии агентов Amazon Bedrock.

В этой демонстрации вы развернете агента, который сможет помочь вам выбрать идеальную одежду в зависимости от вашего местоположения.

При стандартном развертывании модель большого языка (LLM) может ссылаться только на «знания», полученные в ходе обучения. Таким образом, когда модели предлагается создать актуальную информацию, такую как текущая дата и время или узнать погодные условия, у модели не остается другого выбора, кроме как галлюцинировать.

В этой демонстрации вы будете использовать агентов Amazon Bedrock Agents для создания решения, которое позволит LLM использовать информацию в реальном времени, включая дату, время и информацию о погоде. Решение будет использовать эту информацию, чтобы предложить, какой наряд надеть.

Эту архитектуру можно легко расширить для работы с любым количеством API или источников данных. Если вы можете подключиться к своим данным с помощью функции Amazon Lambda, ее можно использовать с агентами Amazon Bedrock.

Помощник по экипировке

Развертывание

Это проект ЗРК. Чтобы начать работу с SAM, смотрите здесь.

Разверните этот проект с помощью SAM CLI:

 > sam build
> sam deploy --guided

По мере развертывания проекта вам будет предложено ввести информацию:

OpenWeatherAPIKey — бесплатный ключ API от OpenWeatherMap.
FoundationModel — идентификатор используемой модели фундамента Amazon Bedrock. (В настоящее время по умолчанию используется anthropic.claude-v2:1 Убедитесь, что у вас включен доступ к этой модели в регионе, в котором вы развертываете.)

Тестирование

После развертывания проекта вы можете протестировать агент в консоли AWS. Сначала перейдите к Amazon Bedrock в консоли AWS.
Перейдите к Agents в меню слева.
Выберите агент OutfitAssistantAgent .
Проверьте агента с помощью инструмента чата в правой части консоли.
Вот несколько сообщений, которые вы можете попробовать, обратите внимание, что они не обязательно должны ограничиваться тем, какую одежду носить:
- «Я в Брисбене, Австралия, что мне надеть сегодня?»
- «Который час?» (Могут спросить, где вы находитесь, если это первое сообщение.)
- «В Осло идет дождь?»

Если вас устраивает производительность агента, вы можете развернуть его и получить к нему доступ через собственное приложение.

Выбрав агент в консоли, выберите Create Alias , введите имя и описание, чтобы было понятно, на каком этапе разработки он был развернут, и выберите Create Alias .
Чтобы вызвать этот псевдоним агента из вашего собственного кода, вам понадобится идентификатор агента, который показан в разделе Agent overview консоли, и идентификатор псевдонима, который показан в разделе Aliases в нижней части страницы консоли агента. Обратите внимание, что эти идентификаторы генерируются службой и не совпадают с использованными вами именами.
В блокноте приведен пример кода Python для вызова вашего агента ./test/agent_test.ipynb . Дополнительную информацию об агентах для API Amazon Bedrock см. здесь: (https://docs.aws.amazon.com/bedrock/latest/userguide/agents-api.html), а об AWS Python SDK — Boto3 — см. здесь: (https://boto3.amazonaws.com/v1/documentation/api/latest/reference/services/bedrock-agent-runtime.html)

Тестирование функции Lambda

Чтобы протестировать функцию Lambda без вызова агента, я предоставил вам три файла JSON тестовых событий, которые можно вставить на страницу конфигурации тестовых событий в функции Lambda. Каждое тестовое событие форматируется так, как событие будет отправлено агентом: