jan

Ян — местный помощник по искусственному интеллекту

Начало работы - Документация - Журнал изменений - Отчеты об ошибках - Discord

️ Ян в настоящее время находится в разработке : ожидайте серьезных изменений и ошибок!

Ян — это альтернатива ChatGPT, которая работает на вашем устройстве в 100% автономном режиме. Наша цель — облегчить непрофессионалу загрузку и запуск программ LLM и использование искусственного интеллекта с полным контролем и конфиденциальностью .

Ян работает на Cortex, нашем встраиваемом локальном механизме искусственного интеллекта, который работает на любом оборудовании. От ПК до кластеров с несколькими графическими процессорами, Jan & Cortex поддерживает универсальные архитектуры:

• Графические процессоры NVIDIA (быстрые)
• Apple M-серия (быстрая)
• Яблоко Интел
• Linux Дебиан
• Windows х64

Функции:

• Библиотека моделей с популярными LLM, такими как Llama, Gemma, Mistral или Qwen.
• Подключайтесь к API удаленного искусственного интеллекта, таким как Groq и OpenRouter.
• Локальный API-сервер с API, эквивалентным OpenAI.
• Расширения для настройки Яна

Скачать

Тип версии	Окна	MacOS		Линукс
Стабильный (рекомендуется)	ян.exe	Интел	М1/М2/М3/М4	январь.деб	январь.AppImage
Бета (предварительная версия)	ян.exe	Интел	М1/М2/М3/М4	январь.деб	январь.AppImage
Ночная сборка (экспериментальная)	ян.exe	Интел	М1/М2/М3/М4	январь.деб	январь.AppImage

Загрузите последнюю версию Jan по адресу https://jan.ai/ или посетите раздел GitHub Releases, чтобы загрузить любую предыдущую версию.

Демо

Янв.Демо.README.mp4

Видео в реальном времени: январь v0.5.7 на Mac M2, Sonoma 14.2 16 ГБ

Быстрые ссылки

Ян

• Ян Веб-сайт
• Ян GitHub
• Документация
• Ян Список изменений
• Ян Блог

Cortex.cpp

Ян работает на Cortex.cpp . Это интерфейс командной строки (CLI) C++, разработанный как альтернатива Ollama. По умолчанию он работает на движке llama.cpp, но также поддерживает другие движки, включая ONNX и TensorRT-LLM, что делает его многоядерной платформой.

• Веб-сайт Кортекс
• Кортекс на GitHub
• Документация
• Библиотека моделей
• Справка по API: в разработке

Требования для запуска Ян

• MacOS : 13 или выше
• Окна :
  • Windows 10 или выше
  • Чтобы включить поддержку графического процессора:
    • Графический процессор Nvidia с набором инструментов CUDA 11.7 или выше
    • Драйвер Nvidia 470.63.01 или выше
• Линукс :
  • glibc 2.27 или выше (проверьте с помощью ldd --version )
  • gcc 11, g++ 11, cpp 11 или выше, для получения дополнительной информации обратитесь к этой ссылке.
  • Чтобы включить поддержку графического процессора:
    • Графический процессор Nvidia с набором инструментов CUDA 11.7 или выше
    • Драйвер Nvidia 470.63.01 или выше

Поиск неисправностей

Поскольку Ян находится в режиме разработки, вы можете столкнуться с некоторыми распространенными проблемами:

• Устранение неполадок в сломанной сборке
• Устранение неполадок графического процессора NVIDIA
• Устранение неполадок: что-то не так

Если вы не можете найти то, что вам нужно, в нашем руководстве по устранению неполадок, обратитесь к нам за дополнительной помощью:

1. Скопируйте журналы ошибок и характеристики устройства.
2. Зайдите на наш Discord и отправьте его на канал #?|get-help для получения дальнейшей поддержки.

Проверьте журналы, чтобы убедиться, что информация соответствует той, которую вы собираетесь отправить. Обратите внимание, что мы храним ваши журналы только 24 часа, поэтому незамедлительно сообщайте о любых проблемах.

Содействие

Вклады приветствуются! Пожалуйста, прочтите файл CONTRIBUTING.md.

Предварительные условия

• узел >= 20.0.0
• пряжа >= 1.22.0
• сделать >= 3,81

Инструкции

1. Клонируйте репозиторий и подготовьте:

   git clone https://github.com/janhq/jan
   cd jan
   git checkout -b DESIRED_BRANCH

2. Запустите разработку и используйте Jan Desktop

   make dev

Это запустит сервер разработки и откроет настольное приложение.

Для производственной сборки

 # Do steps 1 and 2 in the previous section
# Build the app
make build

Это позволит собрать приложение MacOS m1/m2 для производства (с уже выполненной подписью кода) и поместить результат в папку dist .

Благодарности

Ян опирается на другие проекты с открытым исходным кодом:

• лама.cpp
• Лангчейн
• ТензорРТ
• ТензорРТ-ЛЛМ

Контакт

• Ошибки и пожелания: отправьте заявку на GitHub.
• Для обсуждения: присоединяйтесь к нашему Discord здесь
• По деловым вопросам: электронная почта [email protected].
• По вопросам вакансий пишите на адрес [email protected].

Доверие и безопасность

Остерегайтесь мошенничества!

• Мы никогда не будем запрашивать вашу личную информацию.
• Наш продукт полностью бесплатен; платной версии не существует.
• У нас нет токена или ICO.
• Мы — молодая компания, и у нас нет внешних инвесторов ( пока ). Мы открыты для изучения возможностей со стратегическими партнерами, которые хотят вместе решать нашу миссию.

Лицензия

Jan бесплатен и имеет открытый исходный код под лицензией AGPLv3 .