RackleoLab-это кроссплатформенное настольное приложение для каталогизации, оценки, тестирования и улучшения подсказок LLM. Он обеспечивает игровую площадку для интерактивной разработки быстрого быстрого приглашения и диспетчер тестов для систематического быстрого тестирования.
Каталог подсказок : плавно определять и организовать подсказки с использованием трех различных категорий быстрого приглашения. Этот централизованный центр гарантирует, что ваши подсказки всегда доступны и хорошо структурированы для легкого повторного использования.
LLM Playground : Погрузитесь в эксперименты с двумя динамическими вариантами. Выберите, чтобы отправить выбранную подсказку из вашего каталога или улучшения запросов для данной подсказки, используя один из трех проверенных шаблонов запросов. Настройте свой опыт дальше, выбрав предпочтительную модель LLM и настройку трех критических параметров управления LLM. Поддержка синтаксиса {{variable}} в подсказках обеспечивает быстрое тестирование вариаций приглашения через таблицу интерактивных переменных.
Подсказка набора тестов : упростить тестирование сложных системных подсказок в генеративных приложениях ИИ. Определите и управляйте тестовыми случаями, чтобы гарантировать, что ваша система выполняет оперативные данные LLM -ответов на различные пользовательские подсказки.
Оценка игровая площадка : с легкостью оцените влияние оперативных корректировок. Этот мощный инструмент помогает вам оценить, улучшают ли модификации системной подсказки или препятствовать ответам LLM в различных пользовательских сценариях, что дает вам уверенность в оптимизации с точностью.
С помощью rackleoLab навигация по сложностям быстрого дизайна никогда не была более интуитивной или захватывающей. Готовы оптимизировать производительность вашей подсказки?
pip install llm
pip install litellm (NOTE: not needed because it is already defined inside requirements.txt)
Клонировать репозиторий:
git clone https://github.com/crjaensch/PromptoLab.git
cd PromptoLab
Создать и активировать виртуальную среду:
python3 -m venv venv
source venv/bin/activate # On Windows: venvScriptsactivate
Установить зависимости:
python3 -m pip install -r requirements.txt
RasmedOlab использует собственную систему конфигурации QT (QSettings), чтобы сохранить ваши предпочтения LLM бэкэнд. Настройки автоматически сохраняются и восстанавливаются между запусками приложений, а места хранилища оптимизируются для каждой платформы:
Вы можете настроить предпочтительный бэкэнд LLM и настройки API через интерфейс приложения. Доступны следующие варианты:
LLM Backend : выберите между инструментом командной строки llm
или библиотекой Litellm
Конфигурация API : предоставьте клавиши API для предпочтительных моделей LLM при использовании Litellm, например:
Обратите внимание, что локально установленные LLMS, например, через Ollama, поддерживаются для Litellm.
Убедитесь, что ваша виртуальная среда активирована:
source venv/bin/activate # On Windows: venvScriptsactivate
Запустите приложение:
# If inside PromptoLab, then move to the parent directory
cd ..
python3 -m PromptoLab
Вот быстрый визуальный обзор основных функций rackolab:
Проект использует:
llm
Саймона Уиллисона для взаимодействия LLMlitellm
venv
для управления окружающей средой Этот проект лицензирован по лицензии MIT. См. Файл лицензии в репозитории для полного текста лицензии.