Оллама JavaScript-площадка

Если вам нравится этот репозиторий, пометьте его на GitHub — это очень поможет!

Обзор • Использование • Запуск образцов • Следующие шаги • Ресурсы

Обзор

Попробуйте бесплатно генеративные модели ИИ прямо в браузере, используя эту игровую площадку!

Используя GitHub Codespaces и Ollama, вы сможете запускать SLM ( малые языковые модели), такие как Phi-3, прямо в браузере, без необходимости ничего устанавливать.

Использование

Этот проект предназначен для открытия в GitHub Codespaces, который предоставляет вам предварительно настроенную среду для запуска кода и моделей искусственного интеллекта. Чтобы начать, выполните следующие действия:

Нажмите кнопку «Кодовые пространства: Открыть»:
После загрузки Codespace в нем должна быть предварительно установлена Ollama, а также OpenAI Node SDK.
Попросите Олламу возглавить выбранное вами SLM. Например, чтобы запустить модель Phi-3:
```
 оллама запустить фи3
```
Загрузка модели займет несколько секунд.
Как только вы увидите >>> в выводе, вы можете отправить сообщение этой модели из командной строки.
```
 >>> Напиши хайку про пушистого котёнка
```
Через несколько секунд вы должны увидеть поток ответов от модели.
Закройте модель, набрав /bye и нажав Enter.
Откройте файл ollama.ipynb в редакторе и следуйте инструкциям.

Кончик

Следуя инструкциям интерактивного блокнота, вы можете запускать ячейки кода, нажав кнопку «Выполнить ячейку» ( ▶️ ) в верхнем левом углу ячейки. Вы также можете отредактировать код и запустить его еще раз, чтобы увидеть, как модель реагирует на различные входные данные. Снимок экрана: ячейка кода с выделенной кнопкой «исполняемая ячейка»

Запустите образцы

В папке примеров этого репозитория вы найдете примеры использования генеративных моделей ИИ с помощью OpenAI Node.js SDK. Вы можете запустить их, выполнив в терминале следующую команду:

 образцы tsx/<имя файла>

Альтернативно вы можете открыть образец файла в редакторе и запустить его напрямую, нажав кнопку «Выполнить» ( ▶️ ) в правом верхнем углу редактора.

Важный

В некоторых примерах необходимо сначала запустить эмулятор Azure OpenAI. Вы можете сделать это, запустив следующую команду в терминале и оставив ее включенной во время запуска примеров:

 олламазуре -d

Следующие шаги

Как только вы освоитесь с этой игровой площадкой, вы сможете изучить более сложные темы и руководства:

Генеративный ИИ для начинающих [курс]: полное руководство по изучению концепций и использования генеративного ИИ.
Поваренная книга Phi-3 [руководства, образцы]: практические примеры работы с моделью Phi-3.

Когда вы будете готовы изучить, как можно развернуть генеративное развертывание с помощью Azure, вам следует ознакомиться со следующими ресурсами:

Краткое руководство. Начало работы с GPT-35-Turbo и GPT-4 со службой Azure OpenAI [руководство]: руководство по началу работы со службой Azure OpenAI.
Создайте бессерверный чат с искусственным интеллектом с помощью RAG, используя LangChain.js [пример]: руководство по следующему шагу по созданию чат-бота с искусственным интеллектом с использованием извлечения дополненной генерации и LangChain.js.

Ресурсы

Вот несколько дополнительных ресурсов, которые помогут вам узнать больше о генеративном ИИ:

Awesome Generative AI [ссылки]: тщательно подобранный список ресурсов о генеративном ИИ.
Основы ответственного генеративного ИИ [курс]: учебный модуль, позволяющий узнать об ответственном использовании генеративного ИИ.
Azure AI Studio [инструмент]: веб-портал для создания, обучения, развертывания и экспериментов с моделями ИИ.