У меня нет времени, чтобы поддерживать его, и ему нужно несколько обновлений, чтобы быть готовыми к производству. Дайте мне знать, если вы заинтересованы в техническом обслуживании.
Простая структура для использования LmamainDex для создания и развертывания агентов LLM, которые можно использовать для анализа и манипулирования текстовыми данными из документов.
Лицензия: MIT
Первоначальный выпуск Delphic основан исключительно на API Openai. Мы полностью планируем поддержать другие крупные языковые модели (LLMS), будь то самостоятельно или работают от сторонних API. В настоящее время, однако, по состоянию на апрель 2023 года, открытый API AI's остается, пожалуй, самым способным и легким для развертывания. Поскольку эта структура основана на LmamainDex и полностью совместима с Langchain, она будет довольно легко использовать другие LLMS. На данный момент, однако, ваш текст будет обработан с помощью OpenAI, даже если вы самостоятельно ведете этот инструмент. Если условия обслуживания Openai представляют для вас проблему, мы оставляем это вам, чтобы решить. Мы не несем ответственности за какие -либо проблемы, связанные с использованием этого инструмента и API OpenAI.
Самый быстрый способ встать и запустить - это клонировать это репо, а затем развернуть приложение локально.
Вам понадобится Docker и Docker Compose, чтобы следовать этим инструкциям. DigitalOcean, помимо того, что он отличный облачный хост, имеет одни из самых простых инструкций для их настройки. Пожалуйста, проверьте их здесь или перейдите к официальным инструкциям Docker.
git clone
cd delphic
mkdir -p ./.envs/.local/
cp -a ./docs/sample_envs/local/.frontend ./frontend
cp -a ./docs/sample_envs/local/.django ./.envs/.local
cp -a ./docs/sample_envs/local/.postgres ./.envs/.local
И затем обновите свою конфигурацию .django (вы, вероятно, захотите отредактировать .postgres
Затем создайте изображения Docker:
sudo docker-compose --profile fullstack -f local.yml build
sudo docker-compose --profile fullstack -f local.yml up
Перейдите в localhost:3000
чтобы увидеть фронт.
Если вы хотите активно разработать фронт, мы предлагаем вам не использовать флаг --profile=fullstack
так как каждое изменение потребует полной перестройки контейнера. Вместо этого см. Среду разработки вместо шага № 5 выше,
Предполагается, что вы хотите сделать приложение доступным для Интернета в каком -то полностью квалифицированном домене, такой как Delphic.opensource.legal. Чтобы сделать это, вам нужно обновить пару конфигураций.
Todo - вставить документацию
Чтобы фактически использовать приложение (в настоящее время мы намерены дать возможность поделиться определенными моделями с неавтотимированными пользователями), вам нужен вход в систему. Вы можете использовать либо суперпользователь, либо не суперусор. В любом случае кому -то нужно сначала создать суперпользователь, используя консоль:
Зачем настроить суперпользователь Django? Суперпонент Django имеет все разрешения в приложении и может управлять всеми аспектами системы, включая создание, изменение и удаление пользователей, коллекции и другие данные. Настройка суперпользователя позволяет полностью управлять и управлять приложением.
** На данный момент любой пользователь, который входит в систему, будет иметь полные разрешения. Мы планируем реализовать более точный модуль управления доступом на основе ролей, который мы разработали для OpenContracts, но сейчас знайте, что любой, у кого есть какие-либо типы учетных данных, может создавать и удалять коллекции. Создание коллекций использует кредиты OpenAI / стоимость денег
sudo docker-compose -f local.yml run django python manage.py createsuperuser
Запустите Delphic приложение локально, следуя инструкциям по развертыванию.
Предупреждение - если вы используете Openai в качестве двигателя LLM, любое взаимодействие с коллекцией будет использовать кредиты API / стоимость денег. Если вы используете свой собственный ключ API OpenAI, вы также приняли их Условия обслуживания, которые могут не подходить для вашего использования. Пожалуйста, сделайте свое усердие.
Чтобы получить доступ к интерфейсу вопросов, выберите FullStack и перейдите на http://localhost:3000
Если вы хотите внести свой вклад в Delphic или бросить свою собственную версию, вы захотите убедиться, что вы настроили среду разработки.
На бэкэнде вам нужно будет иметь рабочую среду Python для запуска проверки форматирования предварительной коммиты. Вы можете использовать свою систему интерпретатора Python, но мы рекомендуем использовать Pyenv и создать виртуальную ENV, основанную на Python> = 3.10.
Затем, в корне вашего локального репо, запустите эти команды:
pip install -r ./requirements/local.txt
pre-commit install
Теперь, когда вы ставите свои коммиты, форматирование кода и проверки стиля в стиле будет автоматически.
У нас есть базовый набор тестов в ./tests
. Вы можете запустить тесты, набрав:
sudo docker-compose -f local.yml run django python manage.py test
На фронте мы используем узел V18.15.0. Мы предполагаем, что вы используете NVM. У нас еще нет тестов на фронта (извините).
CD в каталог Frontend установите зависимости от фронта и запустите сервер разработки ( обратите внимание, мы предполагаем, что у вас установлен NVM. Если вы не установите его сейчас ):
cd frontend
nvm use
npm install yarn
yarn install
Typling yarn start
поднимет ваш сервер разработки фронта по адресу http://localhost:3000
. Вам все еще нужно запустить бэкэнд, чтобы он работал должным образом.
fullstack
Запустите бэкэнд без флага Fullstack:
sudo docker-compose -f local.yml up