Портал чат-бот для многомодальных API LLM
Добро пожаловать на мой чат-портал , полнофункциональное веб-приложение на основе Node.js , которое позволяет пользователям взаимодействовать с API с GPT-4 от OpenAI , включая последнее видение , слуховые и разговорные возможности с помощью разработки изображений , загрузки файлов и превосходных моделей от расширенных и редактируемых пользовательских инструкций в системе .
В настоящее время GPTPortal поддерживает модели Антропного Клода и Мистраль , а также Google Gemini через бесплатный API. Он также включает в себя нативную среду кода через режим помощников для повторного использования файлов и инструкций из бета -API Openai! Исследуйте все добавленные дополнительные функции, такие как настраиваемая история чата , шаблоны быстрого настройки , легкая настройка и многие другие поставщики API .
Оглавление
- Функции
- Примеры
- Структура
- Предварительные условия
- Установка
- Использование
- Помощники
- Авторские примечания
- Дальнейшие объяснения
- Основное руководство
- Google Gemini
- Мистраль Ай
- Антропический Клод
- Meta llama ai
- OpenRouter AI
- Соответствующие ссылки
- Авторские ссылки
- Исследовательские работы
- Часто задаваемые вопросы
- Глоссарий
- Обновления
- Токены
- Тодос
- Быстрое начало
- Докер
- Вклад
- Лицензия
Функции
- Интерактивный интерфейс чата с поддержкой текстовых сообщений .
- Голосовые разговоры с помощью транскрипций Whisper и разговорных ответов .
- Функциональность загрузки изображения для визуального контекста в дискуссиях.
- Серверная интеграция с семью поставщиками API AI и подсчетом .
- Основная аутентификация для безопасного доступа .
- Настраиваемые системы определяемые системы и параметры модели .
- Простой и интуитивно понятный пользовательский интерфейс с функциями копирования к зажиманию .
- Рендеринг Markdown для сообщений чата в помеченных стилях.
- Экспорт как кнопка HTML для истории разговора .
- Интегрированная функция отключения в " пока! "
- Генерация изображений с Dall · E 3 AT « GENERATE: ».
- Загрузка файлов с помощью ручной конкатенации для больших текстов .
- Помощник API -режим для повторных файлов и пользовательских инструкций .
- Включает автоматическое выполнение Python в среде Jupyter Stateful.
- Поиск дополнительного генерации загруженных файлов .
- Новый антроп Клод , Google Gemini и Mistral Models.
- Комплект клавиш для управления различными функциями, похожими на CATGPT .
- Редактируемые пользовательские инструкции через пользовательский интерфейс Frontend .
- Шаблоны быстрого для системы через боковую панель .
- История разговора с оптимизированными окнами контекста .
- Автоматические расчеты токена-затрат и резюме .
- Селектор модели различных API LLM . Включает в себя:
- GPT-4 : каждый выпуск модели GPT
- Включает 4o, Turbo, Old V4, 3.5 и т. Д.
- Близнецы : все модели Google Gemini
- Включает в себя Gemini-Pro и Flash
- Клод-Опус-Инстантивный :
- Семь новых моделей высокой производительности антропной
- Описание может быть найдено при настройке антропного ИИ .
- Мистраль : крошечный средний
- Шесть новых моделей AI Mistral
- Интеллект варьируется в зависимости от размера
- Описание можно найти при настройке AI Mistral AI .
- Llama-3 : бесплатные модели ламы через QROQ
- Открытый маршрутизатор : любые другие модели, которые вы можете себе представить!
// todo: переписать документацию
Важно : чтобы просмотреть старую документацию (которая все еще применима к V2), см. Старую документацию здесь .
Таблица ценообразования модели
| Модель | Стоимость ввода на миллион токенов | Стоимость выработки на миллион токенов |
|---|
| GPT-4 | $ 30,00 | $ 60,00 |
| GPT-4-Turbo | $ 10,00 | $ 30,00 |
| GPT-4O | $ 5,00 | $ 15,00 |
| GPT-4O-Mini | $ 0,15 | $ 0,60 |
| GPT-3.5-Turbo-0125 | $ 0,50 | $ 1,50 |
| Claude-3-5-Sonnet-201240620 | $ 3,00 | $ 15,00 |
| Claude-3-Sonnet-20240229 | $ 3,00 | $ 15,00 |
| Claude-3-Opus-201240229 | $ 15,00 | $ 75,00 |
| Claude-3-haiku-201240307 | $ 0,25 | $ 1,25 |
| Клод-2,1 | $ 8,00 | $ 24,00 |
| Клод-2.0 | $ 8,00 | $ 24,00 |
| Клод-Институт-1.2 | $ 0,80 | $ 2,40 |
| Open-Mistral-7b | $ 0,25 | $ 0,25 |
| Open-Mixtral-8x7b | $ 0,70 | $ 0,70 |
| Open-Mixtral-8x22b | $ 2,00 | $ 6,00 |
| Мистраль-Смалл-2402 | $ 1,00 | $ 3,00 |
| Codestral-2405 | $ 1,00 | $ 3,00 |
| Мистраль-Мидий-2312 | $ 2,70 | $ 8,10 |
| Мистраль-Ларж-2402 | $ 4,00 | $ 12,00 |
| Открытый мистральный-немо | $ 0,30 | $ 0,30 |
| Открытый ковест-мамба | $ 0,25 | $ 0,25 |
Свободные модели
Следующие модели не имеют затрат на входные или выходные токены:
- Близнецы-про
- Близнецы-пропляция
- Близнецы-1,5-про
- Близнецы-1,5-флаш
- Llama3-70B-8192
- Llama3-8B-8192
- gemma-7b-it
- Mixtral-8x7b-32768
