Instrukt

Инструкт

Терминал AI Commander у вас под рукой

кодирование.помощник.пример.mp4

Посмотрите демо-версии, чтобы увидеть больше примеров.

ПРИМЕЧАНИЕ . Работа находится в стадии разработки, ожидайте ошибок и изменений API.

Введение

Instrukt — это интегрированная среда искусственного интеллекта на базе терминала. Он предлагает платформу, на которой пользователи могут:

• Создавайте и инструктируйте модульных агентов ИИ

• Создание указателей документов для ответов на вопросы

• Создавайте и прикрепляйте инструменты к любому агенту

Агенты — это простые встраиваемые пакеты Python , которые можно расширять, использовать совместно с другими, прикреплять к инструментам и дополнять индексами документов.

Инструктируйте их на естественном языке и в целях безопасности запускайте их внутри безопасных контейнеров (в настоящее время реализованных с помощью Docker), чтобы они могли выполнять задачи в выделенном изолированном пространстве ?️.

Создано с использованием: Langchain, Textual, Chroma.

Консалтинговые услуги : Нужна помощь с интеграцией Langchain или AI? Вы можете связаться со мной по адресу [email protected].

ТОС

• Использование

• Функции

• Поддерживаемые платформы

• Модели LLM

• Указатели документов и вопросы-ответы

• Дорожная карта

• Содействие

• Патреон

• Социальный

• Зрение

• Лицензия

Использование

Быстрый старт

• pip install instrukt[all]

• экспортируйте OPENAI_API_KEY с вашим ключом API OpenAI.

• запустить instrukt

• Если цветовая схема нарушена, экспортируйте TERM=xterm-256color

• Файл конфигурации будет создан по адресу: ~/.config/instrukt/instrukt.yml

Вы можете запустить instrukt на безголовом сервере, например, или на докер-контейнере с поддержкой CUDA.

ПРИМЕЧАНИЕ . Если вы начинаете с чистого контейнера, вам нужны как минимум g++ и libmagic.

Для получения более подробной информации ознакомьтесь с руководством по быстрому запуску и установке.

Из источника:

• Убедитесь, что установлена ​​последняя версия poetry .

• Установите свое виртуальное окружение

• Клонировать репозиторий

• Запустить poetry install -E all --with dev,test

• При этом будет установлен Instrukt, включая дополнительные инструменты для агентов.

Более подробную информацию см. в руководстве по установке.

Агенты по умолчанию:

Coding AI : помощник по кодированию. Создавайте индексы по любой базе кода и прикрепляйте их к агенту для выполнения RAG (дополненная генерация извлечения).

Чат вопросов и ответов : простой диалоговый агент.

Функции

Интерфейс терминала клавиатуры и мыши:

• Терминальный интерфейс для опытных пользователей клавиатуры, позволяющий инструктировать агентов ИИ, даже не отрываясь от клавиатуры.

• Богатые красочные выходные данные агента с уценкой и поддержкой исходного кода благодаря библиотеке Textual TUI.

• Запускайте Instrukt на «голом железе» или докер-контейнерах с поддержкой CUDA.

• Удаленный доступ с помощью SSH и терминальных мультиплексоров.

Пользовательские агенты ИИ:

• Создавайте собственные агенты и инструменты.

• Агенты — это простые пакеты Python, которыми могут делиться и загружать другие пользователи.

Чат с кодом и документами:

• Индексируйте свои данные и позвольте агентам получить их для ответа на вопросы.

• Создавайте и систематизируйте свои индексы с помощью простого пользовательского интерфейса.

• Создание индекса автоматически определит языки программирования и соответствующим образом оптимизирует стратегию разделения/фрагментирования.

• Нечеткий выбор (fzf, dmenu ...) исходных документов, которые использовались для поиска ctrl+p

Инструменты:

• Используйте предопределенный набор инструментов или создайте свои собственные инструменты.

• Прикрепляйте или отсоединяйте инструменты к агентам на ходу, адаптируя рабочие процессы искусственного интеллекта к вашим потребностям.

Подскажите консоль:

• Интегрированная REPL-подсказка для быстрого взаимодействия с агентами и быстрая обратная связь для разработки и тестирования.

• Автоматизируйте повторяющиеся задачи с помощью специальных команд.

• Встроенная история подсказок/чата.

• Используйте vim , emacs или любой внешний $EDITOR для редактирования сообщений.

Лангчейн:

• Используйте экосистему LangChain для автоматизации чего угодно.

• WIP: расширяемый API для интеграции с другими платформами.

Безопасные контейнеры:

• Запускайте агенты внутри защищенных контейнеров Docker для обеспечения безопасности и конфиденциальности.

• Используйте среду выполнения gVisor для полной изоляции агента.

Примечание . Агент Docker доступен только для сторонников Patreon в качестве ранней предварительной версии.

Консоль разработчика:

Отладка и анализ агентов с помощью встроенной консоли IPython. ctrl+d

Указатели документов и вопросы-ответы

• Индексы можно создавать с использованием OpenAI или моделей локального внедрения.

• Цветность для управления индексами.

• Создавайте индексы и управляйте ими с помощью пользовательского интерфейса управления индексами (нажмите I )

• Индексирование каталога автоматически определяет языки программирования и использует соответствующую стратегию разделения, оптимизированную для целевого языка.

• Индексы можно прикрепить к любому агенту в качестве инструмента поиска с помощью index меню в верхней части окна агента.

• Агенты могут использовать прикрепленные индексы для ответов на вопросы.

Поддерживаемые платформы:

• Линукс/Мак.

• Windows протестирована под WSL2.

Модели LLM

• В настоящее время поддерживается только OpenAI .

• Использование частных локальных моделей является следующей вехой .

Дорожная карта

• частные местные модели LLM

• HF SetenceTransformers поддерживает встраивания.

• Встраивание инструкторов

• Локальные вложения

• используйте API генерации текста-webui

• эмулировать PrivateGPT

• используйте самостоятельный хостинг go-skynet/LocalAI

• Индексирование и встраивания

• Индексируйте каталоги и автоматически обнаруживайте контент. (см. AutoDirLoader )

• Определите языки программирования и используйте соответствующий разделитель.

• Загрузите репозиторий git по URL-адресу

• Загрузите любую веб-страницу/сайт.

• Документация

• Создание агентов

• Создание инструментов

• Индексирование и общение с документами и исходным кодом.

• Примеры использования

• Учебники.

Содействие

Любой вклад, отзывы и пиар приветствуются!

Вы можете помочь с:

• Тестирование и создание проблем для ошибок или функций, которые могут быть полезны.

• Если у вас есть технические навыки, вы можете создать PR.

• Если у вас нет технических навыков, вы можете помочь с документацией, добавлением примеров и руководств или созданием новых пользовательских историй.

Патреон

Став патроном, вы поможете мне продолжать уделять время разработке Instrukt и воплотить в жизнь все запланированные функции. Посетите страницу Patreon для получения более подробной информации о наградах для первых сторонников.

Социальный

Присоединяйтесь к серверу Discord, чтобы быть в курсе прогресса или попросить о помощи.

Зрение

ИИ должен быть доступен каждому, а не быть огороженным садом для крупных корпораций и SaaS-сервисов.

Instrukt — это скромный вклад в создание инструментов, которые расширяют возможности пользователей без ущерба для их свобод. Краткосрочная цель — сделать его пригодным для использования с минимальной зависимостью от внешних API и сервисов, предоставив пользователям возможность выбирать локальные модели и автономные сервисы.

Лицензия

Copyright (c) 2023 г. Чакиб Бен Зиан. Все права защищены.

Instrukt имеет лицензию AGPL, короче говоря, это означает, что его может использовать кто угодно для любых целей. Однако, если вы решите сделать общедоступный экземпляр, ваши пользователи имеют право на копию исходного кода, включая все внесенные вами изменения (которые должны быть доступны через интерфейс, такой как кнопка на вашем веб-сайте), вы также можете не распространять этот проект в форме, не содержащей исходный код (например, компилировать/шифровать код и распространять эту версию без распространения исходного кода, включающего внесенные вами изменения. Вам разрешено распространять это в закрытом виде если вы также предоставите отдельный архив с исходным кодом.).