Дом
biniou — это автономный веб-интерфейс для нескольких видов GenAI (генеративного искусственного интеллекта). Вы можете создавать мультимедийный контент с помощью искусственного интеллекта и использовать чат-бота на своем компьютере даже без выделенного графического процессора и с 8 ГБ ОЗУ. Может работать в автономном режиме (после развертывания и загрузки необходимых моделей).
GNU/Linux [база OpenSUSE | База RHEL | База Debian] • Windows • macOS Intel (экспериментальная) • Docker
Документация ❓ | Шоурум ?️
Обновления
? 2024-11-23 : Обновления этой недели >
- Добавить поддержку модели чат-бота prithivMLmods/Llama-Doctor-3.2-3B-Instruct-GGUF.
- Добавлена поддержка моделей Flux LoRA Strangerzonehf/Flux-Super-Realism-LoRA, Strangerzonehf/Flux-Midjourney-Mix-LoRA, Norod78/Flux_1_Dev_LoRA_Paper-Cutout-Style, prithivMLmods/Knitted-Character-Flux-LoRA, Shakker-Labs/FLUX.1-dev-LoRA-Children-Simple-Sketch, renderartist/retrocomicflux, prithivMLmods/Seamless-Pattern-Design-Flux-LoRA, alvdansen/haunted_linework_flux, prithivMLmods/Flux.1-Dev-Poster-HQ- ЛоРА, Грохв/randart2_lora, renderartist/retroadflux, prithivMLmods/Flux.1-Dev-Realtime-Toon-Mix и prithivMLmods/Flux-Product-Ad-Backdrop.
? 16.11.2024 : Обновления этой недели >
- Добавьте поддержку моделей чат-ботов bartowski/SuperNova-Medius-GGUF и bartowski/OpenCoder-8B-Instruct-GGUF.
- Добавлена поддержка моделей Flux LoRA Shakker-Labs/FLUX.1-dev-LoRA-Text-Poster, dataautogpt3/FLUX-SyntheticAnime, prithivMLmods/Canopus-Pixar-3D-Flux-LoRA, prithivMLmods/Flux-Dev-Real-Anime- ЛоРА, glif-loradex-trainer/shipley_flux_dev_AlicesAdventuresInWonderland_v2, prithivMLmods/Ton618-Only-Stickers-Flux-LoRA, markury/surrealidescent, FounderFeed/gta-style-lora, Keltezaa/movie-poster-ce-sdxl-flux, FounderFeed/MidjourneyMeetFlux и dooart/flux-lora-vintage-tarot.
- Добавлена поддержка SD 3.5 Large LoRA моделей nerijs/pixel-art-3.5L.
- Добавить предварительную поддержку Flux в модуль IP-адаптера.
- Добавить предварительную поддержку Flux в модуль ControlNet (в настоящее время работают только canny и глубина).
- Оптимизации и исправления ошибок.
? 09.11.2024 : Обновления этой недели >
- Добавьте поддержку моделей чат-ботов bartowski/SmolLM2-1.7B-Instruct-GGUF, bartowski/cybertron-v4-qw7B-MGS-GGUF и bartowski/OpenChat-3.5-0106_32K-PoSE-GGUF.
- Обновление модели чат-бота Llama-3.2-3B-Instruct-GGUF до bartowski/Llama-3.2-3B-Instruct-uncensored-GGUF.
- Добавьте поддержку множества моделей Flux LoRA. Наиболее примечательной из них является быстрая модель LoRA Lingyuzhou/Hyper_Flux.1_Dev_4_step_Lora, которая позволяет делать выводы за 4 шага. Определенно стоит попробовать, если вы используете Flux.
- Добавьте поддержку моделей Flux и Flux LoRA для модуля img2img.
- Добавлена поддержка моделей SD 3.5 Medium LoRA для Stable Diffusion и модуля img2img.
- Добавляйте категории к моделям Flux LoRA.
- Исправления для Docker при использовании нескольких жестких дисков и исправление проблем в настройках модуля img2img.
? 02.11.2024 : Обновления этой недели >
- Добавьте поддержку моделей SD 3.5 ariG23498/sd-3.5-merged и adamo1139/stable-diffusion-3.5-medium-ungated в модули Stable Diffusion и img2img.
- Добавить поддержку модели чат-бота bartowski/granite-3.0-8b-instruct-GGUF.
- Добавьте поддержку моделей Flux LoRA dvyio/flux-lora-seventies-photograph, Bootoshi/retroanime, XLabs-AI/flux-RealismLora и prithivMLmods/Ton618-Tarot-Cards-Flux-LoRA (последний дает потрясающие результаты!).
- Добавлена поддержка моделей LoRA SD 3.5 alvarobartt/ghibli-characters-sd3.5-lora, reverentelusarca/ancient-style-sd35 и Wadaka/NewYorkerComic_Style.
- Добавьте поддержку моделей SD 3.5 в модуль img2img.
? 2024-10-26 : Обновления этой недели >
- Как было объявлено ранее, модель Flux Freepik/flux.1-lite-8B-alpha и модель SD 3.5 adamo1139/stable-diffusion-3.5-large-turbo-ungated теперь поддерживаются модулем Stable Diffusion. Поддержка будет распространена на все подходящие модули. Также добавьте поддержку LoRA на эти модели.
- Добавьте поддержку модели dataautogpt3/Proteus-v0.6 SDXL во все модули на основе Stable Diffusion.
- Добавить поддержку моделей чат-ботов anthracite-org/magnum-v4-9b-gguf и bartowski/Ministral-8B-Instruct-2410-GGUF.
- Добавлена поддержка модели SDXL LoRA в стиле KappaNeuro/moebius-jean-giraud.
Список архивных обновлений
Меню
• Функции
• Предварительные условия
• Установка
ГНУ/Линукс
OpenSUSE Leap 15.5 / OpenSUSE Tumbleweed
Rocky 9.3 / Alma 9.3 / CentOS Stream 9 / Fedora 39
Debian 12 / Ubuntu 22.04.3 / Ubuntu 24.04 / Linux Mint 21.2
Windows 10 / Windows 11
Установка macOS Intel Homebrew
Докерфайл
• Поддержка CUDA
• Как использовать
• Полезно знать
• Кредиты
• Лицензия
Функции
Генерация текста с помощью:
- ✍️ модуль чат-бота на основе llama-cpp (использует модели .gguf)
- ?️ Модуль мультимодального чат-бота Llava (использует модели .gguf)
- ?️ Модуль подписей к изображениям Microsoft GIT
- ? Модуль преобразования речи в текст
- модуль перевода nllb (200 языков)
- Генератор подсказок (требуется 16 ГБ+ ОЗУ для типа вывода ChatGPT)
Генерация и модификация изображений с использованием:
- ?️ Модуль стабильной диффузии
- ?️ Модуль Кандинского (требуется 16 ГБ+ ОЗУ)
- ?️ Модуль «Модели скрытой согласованности»
- ?️ Модуль Midjourney-мини
- ?️Модуль PixArt-Альфа
- ?️ Модуль Stable Diffusion Img2img
- ?️ Модуль IP-адаптера
- ?️ Модуль вариаций стабильного диффузного изображения (требуется 16 ГБ + ОЗУ)
- ?️ Инструктируйте модуль Pix2Pix
- ?️ Модуль MagicMix
- ?️ Модуль Stable Diffusion Inpaint
- ?️ Модуль Fantasy Studio Paint by example (требуется 16 ГБ+ ОЗУ)
- ?️ Модуль Stable Diffusion Outpaint (требуется 16 ГБ+ ОЗУ)
- ?️ Модуль Stable Diffusion ControlNet
- ?️ Модуль фотокабины
- ? Модуль смены лиц Insight Face
- ? Настоящий модуль масштабирования ESRGAN
- ?Модуль восстановления лица GFPGAN
Генерация звука с использованием:
- ? Модуль MusicGen
- ? Модуль MusicGen Melody (требуется 16 ГБ+ ОЗУ)
- ? Модуль MusicLDM
- ? Модуль Audiogen (требуется 16 ГБ+ ОЗУ)
- ? Модуль Гармонай
- модуль коры
Генерация и модификация видео с использованием:
- ? Модуль Modelscope (требуется 16 ГБ+ ОЗУ)
- ? Модуль Text2Video-Zero
- ? Модуль AnimateDiff (требуется 16 ГБ+ ОЗУ)
- ? Стабильный модуль распространения видео (требуется 16 ГБ+ ОЗУ)
- ?️ Модуль Video Instruct-Pix2Pix (требуется 16 ГБ+ ОЗУ)
Генерация 3D-объектов с использованием:
- ? Модуль Shap-E txt2shape
- ? Модуль Shap-E img2shape (требуется 16 ГБ+ ОЗУ)
Другие особенности
- Установка Zeroconf с помощью установщика в один клик или Windows exe.
- Удобство для пользователя: все необходимое для запуска biniou устанавливается автоматически либо во время установки, либо при первом использовании.
- WebUI на английском, французском, китайском (традиционном).
- Простое управление через панель управления непосредственно внутри webui: обновляйте, перезагружайте, выключайте, активируйте аутентификацию, управляйте доступом к сети или делитесь своим экземпляром онлайн одним щелчком мыши.
- Легкое управление моделями через простой интерфейс.
- Связь между модулями: отправка вывода в качестве ввода в другой модуль.
- Питаться от ? Huggingface и градиент
- Кроссплатформенность: GNU/Linux, Windows 10/11 и macOS (экспериментально, через доморощенный вариант)
- Удобный Dockerfile для облачных экземпляров
- Настройки генерации сохраняются в виде метаданных в каждом контенте.
- Поддержка CUDA (см. Поддержка CUDA)
- Экспериментальная поддержка ROCm (см. здесь)
- Поддержка Stable Diffusion SD-1.5, SD-2.1, SD-Turbo, SDXL, SDXL-Turbo, SDXL-Lightning, Hyper-SD, Stable Diffusion 3, LCM, VegaRT, Segmind, Playground-v2, Koala, Pixart-Alpha, Модели Pixart-Sigma, Kandinsky и совместимые модели через встроенный список моделей или отдельные файлы .safetensors.
- Поддержка моделей LoRA (SD 1.5, SDXL и SD3)
- Поддержка текстовой инверсии
- Поддержка оптимизации llama-cpp-python CUDA, OpenBLAS, OpenCL BLAS, ROCm и Vulkan посредством простой настройки.
- Поддержка квантованных моделей Llama/2/3, Mistral, Mixtral и совместимых с GGUF с помощью встроенного списка моделей или отдельных файлов .gguf.
- Простая интеграция копирования/вставки для квантованных моделей TheBloke GGUF.
Предварительные условия
Примечание. Biniou поддерживает Cuda или ROCm, но для работы не требуется выделенный графический процессор. Вы можете установить его на виртуальную машину.
Установка
ГНУ/Линукс
OpenSUSE Leap 15.5 / OpenSUSE Tumbleweed
Установка в один клик:
- Скопируйте/вставьте и выполните в терминале следующую команду:
sh <( curl https://raw.githubusercontent.com/Woolverine94/biniou/main/oci-opensuse.sh || wget -O - https://raw.githubusercontent.com/Woolverine94/biniou/main/oci-opensuse.sh )
Rocky 9.3 / Alma 9.3 / CentOS Stream 9 / Fedora 39
Установка в один клик:
- Скопируйте/вставьте и выполните в терминале следующую команду:
sh <( curl https://raw.githubusercontent.com/Woolverine94/biniou/main/oci-rhel.sh || wget -O - https://raw.githubusercontent.com/Woolverine94/biniou/main/oci-rhel.sh )
Debian 12 / Ubuntu 22.04.3 / Ubuntu 24.04 / Linux Mint 21.2+
Установка в один клик:
- Скопируйте/вставьте и выполните в терминале следующую команду:
sh <( curl https://raw.githubusercontent.com/Woolverine94/biniou/main/oci-debian.sh || wget -O - https://raw.githubusercontent.com/Woolverine94/biniou/main/oci-debian.sh )
Ручная установка:
- Установите необходимые компоненты от имени пользователя root:
apt install git pip python3 python3-venv gcc perl make ffmpeg openssl
- Клонируйте этот репозиторий как пользователь:
git clone https://github.com/Woolverine94/biniou.git
- Запустите установщик:
- (необязательно, но настоятельно рекомендуется) Установите TCMalloc от имени пользователя root, чтобы оптимизировать управление памятью:
apt install google-perftools
Windows 10 / Windows 11
Для установки Windows требуется больше предварительных условий, чем для установки GNU/Linux, и требуется следующее программное обеспечение (которое будет установлено автоматически):
- Гит
- Python 3.11 (и особенно версия 3.11)
- OpenSSL
- Инструменты сборки Visual Studio
- SDK для Windows 10/11
- Вкредист
- ffmpeg
- ... и все их зависимости.
В вашей операционной системе происходит много изменений, и это потенциально может привести к нежелательному поведению вашей системы, в зависимости от того, какое программное обеспечение уже установлено в ней.
️ Перед началом процесса установки вам действительно следует сделать резервную копию вашей системы и данных. ️
- Загрузите и запустите : biniou_netinstall.exe.
ИЛИ
- Загрузите и выполните : install_win.cmd (щелкните ссылку правой кнопкой мыши и выберите «Сохранить цель/ссылку как…», чтобы загрузить)
Вся установка автоматизирована, но Windows UAC запросит у вас подтверждение для каждого программного обеспечения, установленного на этапе «предварительных условий». Этого можно избежать, запустив выбранный установщик от имени администратора.
️ После фиксации 8d2537b пользователи Windows теперь могут определять собственный путь для каталога biniou при установке с помощью install_win.cmd ️
Действуйте следующим образом:
- Загрузите и отредактируйте install_win.cmd
- Измените
set DEFAULT_BINIOU_DIR="%userprofile%" на set DEFAULT_BINIOU_DIR="E:datassomedir" (например) - Используйте только абсолютный путь (например:
E:datassomedir , а не .datassomedir ). - Не добавляйте косую черту в конце (например:
E:datassomedir , а не E:datassomedir ). - Не добавляйте суффикс «biniou» к вашему пути (например:
E:datassomedirbiniou ), так как каталог biniou будет создан командой git clone. - Сохраните и запустите install_win.cmd.
Установка macOS Intel Homebrew
️ Установка Homebrew теоретически совместима с macOS Intel, но не тестировалась. Используйте на свой страх и риск. Также обратите внимание, что Biniou в настоящее время несовместим с Apple Silicon. Любые отзывы об этой процедуре в ходе обсуждений или заявок будут очень признательны. ️
️ Обновление от 09.01.2024: Благодаря @lepicodon для пользователей Apple Silicon есть обходной путь: вы можете установить biniou на виртуальную машину с помощью OrbStack. См. этот комментарий для объяснений. ️
Установите Homebrew для вашей операционной системы.
Установите необходимые «бутылки» для домашнего пивоварения:
brew install git python3 gcc gcc@11 perl make ffmpeg openssl
- Установите виртуальную среду Python:
python3 -m pip install virtualenv
- Клонируйте этот репозиторий как пользователь:
git clone https://github.com/Woolverine94/biniou.git
- Запустите установщик:
Докерфайл
В этих инструкциях предполагается, что у вас уже есть настроенная и работающая среда докера.
- Создайте образ докера:
docker build -t biniou https://github.com/Woolverine94/biniou.git
или для поддержки CUDA:
docker build -t biniou https://raw.githubusercontent.com/Woolverine94/biniou/main/CUDA/Dockerfile
- Запускаем контейнер:
docker run -it --restart=always -p 7860:7860
-v biniou_outputs:/home/biniou/biniou/outputs
-v biniou_models:/home/biniou/biniou/models
-v biniou_cache:/home/biniou/.cache/huggingface
-v biniou_gfpgan:/home/biniou/biniou/gfpgan
biniou:latest
или для поддержки CUDA:
docker run -it --gpus all --restart=always -p 7860:7860
-v biniou_outputs:/home/biniou/biniou/outputs
-v biniou_models:/home/biniou/biniou/models
-v biniou_cache:/home/biniou/.cache/huggingface
-v biniou_gfpgan:/home/biniou/biniou/gfpgan
biniou:latest
- Доступ к веб-сайту по URL-адресу:
https://127.0.0.1:7860 или https://127.0.0.1:7860/?__theme=dark для темной темы (рекомендуется)
... или замените 127.0.0.1 на ip вашего контейнера
Примечание. В целях экономии места для хранения предыдущая команда запуска контейнера определяет общие общие тома для всех контейнеров Biniou и обеспечивает автоматический перезапуск контейнера в случае сбоя OOM. Удалите аргументы --restart и -v , если такое поведение вам не нужно.
Поддержка CUDA
biniou изначально предназначен только для процессора, чтобы обеспечить совместимость с широким спектром оборудования, но вы можете легко активировать поддержку CUDA через Nvidia CUDA (если у вас есть функциональная среда CUDA 12.1) или AMD ROCm (если у вас есть функциональная среда ROCm 5.6) выбрав тип оптимизации для активации (CPU, CUDA или ROCm для Linux) в модуле управления WebUI.
В настоящее время все модули, кроме модулей Chatbot, Llava и facewap, могут получить выгоду от оптимизации CUDA.
Как использовать
- Запустите, выполнив из каталога biniou:
cd /home/ $USER /biniou
./webui.sh
Дважды щелкните файл webui.cmd в каталоге biniou (C:Users%username%biniou). По запросу UAC настройте брандмауэр в соответствии с типом вашей сети, чтобы разрешить доступ к веб-интерфейсу.
Примечание. Первый запуск в Windows 11 может быть очень медленным (по сравнению с другими ОС).
Доступ к веб-сайту по URL-адресу:
https://127.0.0.1:7860 или https://127.0.0.1:7860/?__theme=dark для темной темы (рекомендуется)
Вы также можете получить доступ к Biniou с любого устройства (включая смартфоны) в той же сети LAN/Wi-Fi, заменив 127.0.0.1 в URL-адресе на IP-адрес хоста Biniou.
Выйдите , используя сочетание клавиш CTRL+C в терминале.
Обновите это приложение (виртуальную среду Biniou + Python), используя параметры обновления элементов управления WebUI.
Приятно знать
Наиболее частой причиной сбоя является недостаточное количество памяти на хосте. Признак: закрытие программы и возврат/закрытие терминала без конкретного сообщения об ошибке. Вы можете использовать biniou с 8 ГБ ОЗУ, но рекомендуется использовать как минимум 16 ГБ, чтобы избежать ошибки OOM (недостаточно памяти).
Biniou использует множество различных моделей ИИ, что требует много места: если вы хотите использовать все модули в biniou, вам понадобится около 200 ГБ дискового пространства только для модели по умолчанию каждого модуля. Модели загружаются при первом запуске каждого модуля или когда вы выбираете новую модель в модуле и генерируете контент. Модели хранятся в каталоге /models установки biniou. Неиспользуемые модели можно удалить, чтобы сэкономить место.
... следовательно, для загрузки моделей вам понадобится быстрый доступ в Интернет.
Резервная копия каждого сгенерированного контента доступна в каталоге /outputs папки biniou.
Biniou изначально полагается только на процессор для всех операций. Он использует специальную версию PyTorch, предназначенную только для ЦП. Результатом является лучшая совместимость с широким спектром оборудования, но ухудшается производительность. В зависимости от вашего оборудования ожидайте медлительности. См. здесь поддержку Nvidia CUDA и экспериментальную поддержку AMD ROCm (только GNU/Linux).
Настройки по умолчанию выбраны таким образом, чтобы разрешить создание контента на компьютерах начального уровня с наилучшим соотношением производительности и качества. Если у вас конфигурация выше минимальных настроек, вы можете попробовать использовать другие модели, увеличить размеры или продолжительность мультимедиа, изменить параметры вывода или другие настройки (например, объединение токенов для изображений) для получения содержимого более высокого качества.
biniou распространяется под лицензией GNU GPL3, но каждая модель, используемая в biniou, имеет свою собственную лицензию. Пожалуйста, ознакомьтесь с лицензией каждой модели, чтобы узнать, что вы можете и чего не можете делать с моделями. Для каждой модели вы можете найти ссылку на страницу HuggingFace модели в разделе «О программе» соответствующего модуля.
Не возлагайте слишком больших ожиданий: biniou находится на ранней стадии разработки, и большая часть используемого в нем программного обеспечения с открытым исходным кодом находится в разработке (некоторые из них все еще являются экспериментальными).
Каждый модуль Biniou предлагает 2 элемента аккордеона «О программе» и «Настройки» :
- «О программе» — это функция быстрой справки, которая описывает модуль и дает инструкции и советы по его использованию.
- Настройки — это настройка панели, специфичная для модуля, которая позволяет настроить параметры генерации.
Кредиты
В этом приложении используются следующие программы и технологии:
- ? Huggingface: библиотеки диффузоров и трансформеров, а также почти все генеративные модели.
- Градио: веб-интерфейс
- llama-cpp-python: привязки Python для llama-cpp
- Ллава
- БакЛава
- Microsoft GIT: Image2text
- Шепот: речь2текст
- перевод nllb: языковой перевод
- Стабильное распространение: txt2img, img2img, изменение изображения, inpaint, ControlNet, Text2Video-Zero, img2vid.
- Кандинский: txt2img
- Модели скрытой согласованности: txt2img
- PixArt-Альфа : PixArt-Альфа
- IP-адаптер: IP-адаптер img2img
- Инструктируйте pix2pix: pix2pix
- МэджикМикс: МэджикМикс
- Раскраска Fantasy Studio на примере: Paintbyex
- Вспомогательные модели Controlnet: предварительные модели для модуля ControlNet
- IP-адаптер FaceID: Модель адаптера для модуля Photobooth
- Модель адаптера Photomaker для модуля Photobooth
- Insight Face: замена лиц
- Настоящий ESRGAN: апскейлер
- GFPGAN: восстановление лица
- Audiocraft: музыкальный генератор, музыкальная мелодия, аудиоген
- МузыкаLDM : MusicLDM
- Гармонай: гармония
- Кора: text2speech
- Синтез текста в видео Modelscope: txt2vid
- AnimateLCM: txt2vid
- Откройте AI Shap-E: txt2shape, img2shape.
- compel: Быстрое улучшение для различных модулей на основе
StableDiffusionPipeline . - tomesd: объединение токенов для различных модулей на основе
StableDiffusionPipeline - Питон
- PyTorch
- Гит
- ffmpeg
... и все их зависимости
Лицензия
Стандартная общественная лицензия GNU v3.0
GitHub @Woolverine94 ·
