chromeai

Хром ИИ

Обзор

Chrome AI — это демонстрационный проект, который запускает большие языковые модели локально в браузере. Он демонстрирует возможности современных веб-технологий по использованию расширенных функций искусственного интеллекта непосредственно в среде браузера без необходимости обработки на стороне сервера.

Функции

• Локальное выполнение : запускает большие языковые модели непосредственно в браузере.

• Обработка в реальном времени : обеспечивает мгновенные ответы и взаимодействие.

• Ориентированность на конфиденциальность : обрабатывает данные локально, обеспечивая конфиденциальность пользователей и безопасность данных.

Начиная

Предварительные условия

• Последняя версия Google Chrome (127+) или любого совместимого браузера на базе Chromium.

Как настроить встроенный Gemini Nano в Chrome

1. Установите Chrome Canary : убедитесь, что у вас установлена ​​версия 127. Загрузите Chrome Canary.

2. Включить Prompt API : откройте chrome://flags/#prompt-api-for-gemini-nano и установите для него значение «Включено».

3. Включить руководство по оптимизации : откройте chrome://flags/#optimization-guide-on-device-model и установите для него значение «Enabled BypassPerfRequirement». Перезапустите браузер.

4. Загрузка модели : перейдите по адресу chrome://components/ , найдите «Руководство по оптимизации модели устройства» и убедитесь, что она полностью загружена. Если версия «0.0.0.0», нажмите «Проверить наличие обновлений».

5. Устранение неполадок : если «Руководство по оптимизации модели устройства» не отображается, отключите настройки в шагах 2 и 3, перезапустите браузер и снова включите его.

6. Проверьте настройку : откройте веб-страницу, нажмите F12 и проверьте window.ai в консоли.

Тестовый код :

 const model = await window.ai.createTextSession();await model.prompt("Кто вы?");

Использование

Клонируем репозиторий:

 git clone https://github.com/yourusername/chromeai.gitcd chromeai
пнпм я
pnpm разработчик

Откройте localhost:3000 в своем браузере, чтобы начать использовать AI.

Содействие

Мы приветствуем вклады! Пожалуйста, создайте репозиторий и отправьте запросы на включение. Если речь идет о серьезных изменениях, пожалуйста, сначала откройте вопрос, чтобы обсудить, что вы хотели бы изменить.

Лицензия

Этот проект лицензируется по лицензии MIT — подробности см. в файле LICENSE.

Контакт

По любым вопросам или отзывам обращайтесь к Молнии Джойс в Твиттере.