aws genai llm chatbot

Развертывание чат-бота с несколькими моделями и несколькими RAG с помощью AWS CDK на AWS

НОВЫЙ! Поддержка новых моделей Amazon Nova

Разверните этого чат-бота, чтобы использовать недавно анонсированные модели Amazon Nova!

Эти мощные модели могут понимать и генерировать изображения и видео.

Разверните этого чат-бота, чтобы поэкспериментировать:

• Amazon Nova Micro
• Amazon Nova Lite
• Amazon Nova Pro
• Amazon Nova Canvas
• Amazon Nova Reels

Обязательно запросите доступ к новым моделям здесь.

Подробнее о новых моделях читайте здесь.

---

Это решение предоставляет готовый к использованию код, поэтому вы можете начать экспериментировать с различными большими языковыми моделями и мультимодальными языковыми моделями, настройками и подсказками в своей учетной записи AWS.

Поддерживаемые поставщики моделей:

• Amazon Bedrock поддерживает широкий спектр моделей от AWS, Anthropic, Cohere и Mistral, включая последние модели от Amazon Nova. Дополнительные сведения см. в разделе «Недавние объявления».
• Автономные модели Amazon SageMaker от Foundation, Jumpstart и HuggingFace.
• Сторонние поставщики через API, такие как Anthropic, Cohere, AI21 Labs, OpenAI и т. д. Полный список можно найти в доступных интеграциях с langchain.

Дополнительные ресурсы

Ресурс	Описание
Чат-бот Secure Messenger GenAI	Мессенджер, созданный на базе Wickr, который может взаимодействовать с этим чат-ботом для предоставления услуг вопросов и ответов в строго регулируемых средах (например, HIPAA).
Проект Лейкчейн	Мощная облачная платформа обработки документов (документов, изображений, аудио и видео) на базе искусственного интеллекта, созданная на основе AWS CDK.
Конструкции AWS Generative AI CDK	Расширение библиотеки с открытым исходным кодом AWS Cloud Development Kit (AWS CDK), призванное помочь разработчикам создавать генеративные решения искусственного интеллекта, используя определения на основе шаблонов для своей архитектуры.
Артефакты и инструменты для Bedrock	Инновационный пользовательский интерфейс на основе чата с поддержкой инструментов и артефактов. Он может создавать графики и диаграммы, анализировать данные, писать игры, создавать веб-страницы, генерировать файлы и многое другое.

Дорожная карта

Дорожная карта доступна в проекте GitHub.

Авторы

• Бигад Сулейман
• Сергей Пугачев

Авторы

Лицензия

Эта библиотека лицензируется по лицензии MIT-0. См. файл ЛИЦЕНЗИИ.

• Список изменений проекта.
• Лицензия проекта.
• Кодекс поведения проекта.
• СОСТАВЛЯЕМ для получения дополнительной информации.

Хотя этот репозиторий выпущен под лицензией MIT-0, его интерфейсная часть и реализация SQL используют следующие сторонние проекты:

• psycopg2-бинарный
• болтовня
• пакет-json-from-dist
• беготня по тропе

Лицензирование этих проектов включает лицензии LGPL v3 и BlueOak-1.0.0.

Юридическая оговорка

Прежде чем использовать содержимое этого примера в производственных целях, вам следует рассмотреть возможность проведения собственной независимой оценки. Это может включать (помимо прочего) тестирование, защиту и оптимизацию контента, представленного в этом образце, на основе ваших конкретных методов и стандартов контроля качества.