Этот репозиторий содержит исходный код для метода расширенной генерации (RAG), как описано в следующих статьях:
Часть 1. Начало работы, цепочка мыслей
Часть 2: Разум-Действие, многоходовой разговор
Часть 3: прием PDF-файлов, векторный поиск
Бонус: RAG с SLM (модель малого языка)
Во-первых, вам нужно запустить API-сервер llama.cpp с Phi 2:
./server -m /path/to/phi-2.Q4_K_M.gguf
(Для более медленного ответа, но с большей точностью рассмотрите возможность использования Mistral 7B OpenOrca).
Чтобы запустить Pico Jarvis, вам понадобится Node.js v18 или новее:
npm install npm start
а затем откройте localhost:5000
.
Задайте следующие вопросы:
Кто написал «Канон медицины»?
В Египте обычно едят рамэн?
Кто снял фильм «Темный рыцарь»?
Назовите Индонезию туристическим направлением №1!
Какой родной язык мистера Спока?
Какой штат США начинается с буквы G?
Какой атомный номер магния?
Где мы находим кенгуру?
Кто отец Люка Скайуокера?
В какой стране говорят на китайском языке?
Какая самая длинная река в Латинской Америке?
Кто является автором специальной теории относительности?
Какой вымышленный металл влит в тело Росомахи?
Кто плавал на флагманском корабле «Санта-Мария»?
Назовите большую пустыню недалеко от Монголии.
Что ближе Сингапуру: Вьетнам или Австралия?
Кто такой вымышленный шпион 007?
Какая страна известна ИКЕА?
Между тем, на вопросы, связанные с Солнечной системой, можно получить ответы, выполнив поиск в PDF-документе:
Что такое карликовая планета?
Какая планета называется красной?
Из каких материалов состоят газовые гиганты?
А как насчет ледяных гигантов?
Объясните, что такое гелиопауза.
Когда «Вояджер-2» вошел в межзвездное пространство?
А как насчет «Вояджера-1»?
Если вы получили ключ API для OpenWeatherMap и предоставили его как переменную среды OPENWEATHERMAP_API_KEY
, попробуйте задать следующее:
Как погода в Джакарте?
Какова сейчас температура в Пало-Альто?
Сейчас в Сиэтле облачно?