Portal de chatbot para APIs LLM multimodal
Bem-vindo ao meu portal de bate-papo , um aplicativo da web baseado em Node.js , que permite que os usuários interajam com um chatbot alimentado pela API GPT-4 do OpenAI , incluindo os recursos mais recentes de visão , audição e fala com geração de imagens , uploads de arquivos e desempenho superior do modelo de instruções personalizadas e editáveis no sistema System .
O GPTPortal agora suporta os modelos antropis de IA Claude e Mistral , além do Google Gemini via API gratuita . Ele também inclui um ambiente de código nativo via modo de assistentes para reutilizar arquivos e instruções da API beta do OpenAI! Explore todos os recursos adicionais adicionados, como histórico de bate -papo personalizável , modelos rápidos , configuração fácil e muitos outros provedores de API .
Índice
- Características
- Exemplos
- Estrutura
- Pré -requisitos
- Instalação
- Uso
- Assistentes
- Notas do autor
- Outras explicações
- Guia básico
- Google Gemini
- Ai Mistral
- Claude antrópico
- Meta llama ai
- OpenRouter AI
- Links relevantes
- Links do autor
- Trabalhos de pesquisa
- Perguntas frequentes
- Glossário
- Atualizações
- Tokens
- Todos
- Start rápido
- Docker
- Contribuições
- Licença
Características
- Interface de bate -papo interativa com suporte para mensagens de texto .
- Conversas por voz através de transcrições de sussurros e respostas faladas .
- Funcionalidade de upload de imagem para contexto visual nas discussões.
- Integração do lado do servidor com sete provedores de API de IA e contagem .
- Autenticação básica para acesso seguro .
- Instruções personalizáveis definidas pelo sistema e parâmetros do modelo .
- UI simples e intuitiva com recursos de cópia para clipboard .
- Renderização de Markdown para mensagens de bate -papo em estilos marcados .
- Exportar como botão HTML para o histórico de conversas .
- Funcionalidade de desligamento integrado em " Bye! "
- Geração de imagens com dall · e 3 em " Gereate: ".
- Uploads de arquivo via concatenação manual para textos grandes .
- Modo API de assistentes para arquivos reutilizáveis e instruções personalizadas .
- Inclui execução automática do Python no ambiente de Jupyter com estado.
- Geração aumentada de recuperação de arquivos enviados .
- Novos modelos antropais Claude , Google Gemini e Mistral .
- Atalhos de teclado para controlar várias funções do tipo ChatGPT .
- Instruções personalizadas editáveis por meio de uma interface do frontend .
- Modelos de prompt para o sistema via barra lateral .
- Histórico de conversas com janelas de contexto otimizadas .
- Cálculos e resumos automáticos de custo de token .
- Seletor de modelo de várias APIs LLM . Inclui:
- GPT-4 : Cada lançamento do modelo GPT
- Inclui 4o, turbo, v4, 3,5, etc.
- Gêmeos : todos os modelos do Google Gemini
- Inclui gemini-pro e flash
- Claude Opus-Instant :
- Sete novos modelos antropais de alto desempenho
- Uma descrição pode ser encontrada sob configuração antrópica de IA .
- Mistral : minúsculo médio
- Seis novos modelos de IA Mistral
- A inteligência varia de acordo
- Uma descrição pode ser encontrada sob a configuração do Mistral AI .
- LLAMA-3 : Modelos de llama gratuitos via Qroq
- Open Router : Quaisquer outros modelos que você possa imaginar!
// TODO: Reescrever a documentação
IMPORTANTE : Para visualizar a documentação antiga (que ainda é aplicável ao V2), consulte a documentação antiga aqui .
Tabela de preços de modelo
| Modelo | Custo de entrada por milhão de tokens | Custo de produção por milhão de tokens |
|---|
| GPT-4 | $ 30,00 | $ 60,00 |
| GPT-4-Turbo | $ 10,00 | $ 30,00 |
| GPT-4O | US $ 5,00 | $ 15,00 |
| GPT-4O-MINI | $ 0,15 | $ 0,60 |
| GPT-3.5-Turbo-0125 | $ 0,50 | $ 1,50 |
| CLAUDE-3-5-SONNET-20240620 | US $ 3,00 | $ 15,00 |
| CLAUDE-3-SONNET-20240229 | US $ 3,00 | $ 15,00 |
| Claude-3-Opus-20240229 | $ 15,00 | US $ 75,00 |
| Claude-3-Haiku-20240307 | $ 0,25 | $ 1,25 |
| Claude-2.1 | US $ 8,00 | US $ 24,00 |
| Claude-2.0 | US $ 8,00 | US $ 24,00 |
| Claude-Instant-1.2 | $ 0,80 | US $ 2,40 |
| Open-Mistral-7b | $ 0,25 | $ 0,25 |
| Open-Mixtral-8x7b | $ 0,70 | $ 0,70 |
| Open-Mixtral-8x22b | $ 2,00 | $ 6,00 |
| Mistral-small-2402 | $ 1,00 | US $ 3,00 |
| Codestral-2405 | $ 1,00 | US $ 3,00 |
| Mistral-Medium-2312 | US $ 2,70 | $ 8,10 |
| Mistral-Large-2402 | $ 4,00 | $ 12,00 |
| Open-Mistral-Nemo | $ 0,30 | $ 0,30 |
| -codestral-mamba | $ 0,25 | $ 0,25 |
Modelos gratuitos
Os modelos a seguir não têm custo para tokens de entrada ou saída:
- Gemini-Pro
- Gemini-Pro-Vision
- Gemini-1.5-Pro
- Gemini-1.5-Flash
- LLAMA3-70B-8192
- LLAMA3-8B-8192
- Gemma-7b-it
- Mixtral-8X7B-32768
