floki
1.0.0
? Floki está nos estágios iniciais de desenvolvimento. A estrutura está evoluindo ativamente como parte da pesquisa em andamento, e ainda estou explorando e aprendendo como integrar o Dapr de forma eficaz. Espere mudanças significativas nas APIs e nas estruturas principais à medida que a estrutura amadurece e os insights são refinados.
Floki é uma estrutura de código aberto para pesquisadores e desenvolvedores experimentarem agentes autônomos baseados em LLM. Ele fornece ferramentas para criar, orquestrar e gerenciar agentes enquanto se conecta perfeitamente às APIs de inferência LLM. Construído em Dapr, Floki aproveita um modelo de programação unificado que simplifica microsserviços e oferece suporte a fluxos de trabalho determinísticos e interações orientadas a eventos. Usando o padrão Virtual Actor da Dapr, o Floki permite que os agentes funcionem como unidades independentes e independentes que processam mensagens sequencialmente, eliminando preocupações de simultaneidade e integrando-se perfeitamente a fluxos de trabalho maiores. Também facilita a colaboração dos agentes por meio da integração Pub/Sub do Dapr, onde os agentes se comunicam por meio de um barramento de mensagens compartilhado, simplificando o design de fluxos de trabalho onde as tarefas são distribuídas de forma eficiente e os agentes trabalham juntos para atingir objetivos compartilhados. Ao reunir esses recursos, o Floki oferece uma maneira poderosa de explorar fluxos de trabalho de agentes e os componentes que permitem que sistemas multiagentes colaborem e sejam dimensionados, tudo com tecnologia Dapr.
Dapr fornece ao Floki um modelo de programação unificado que simplifica o desenvolvimento de sistemas resilientes e escalonáveis, oferecendo APIs integradas para recursos como invocação de serviço, mensagens Pub/Sub, fluxos de trabalho e até mesmo gerenciamento de estado. Esses componentes, essenciais para definir fluxos de trabalho de agentes, permitem que os desenvolvedores se concentrem no design de agentes e fluxos de trabalho, em vez de reconstruir recursos básicos. Ao aproveitar a arquitetura sidecar e o tempo de execução portátil orientado a eventos do Dapr, o Floki também permite que os agentes colaborem de forma eficaz, compartilhem tarefas e se adaptem dinamicamente em ambientes de nuvem e de borda. Essa integração perfeita reúne fluxos de trabalho determinísticos e tomada de decisão baseada em LLM em um sistema unificado, facilitando a experimentação de sistemas multiagentes e fluxos de trabalho de agentes escaláveis.
Invocação de serviço a serviço : facilita a comunicação direta entre agentes com descoberta de serviço integrada, tratamento de erros e rastreamento distribuído. Os agentes podem aproveitar isso para mensagens síncronas em fluxos de trabalho multiagentes.
⚡️ Publicar e assinar : oferece suporte à colaboração fracamente acoplada entre agentes por meio de um barramento de mensagens compartilhado. Isso permite interações em tempo real orientadas por eventos, essenciais para distribuição e coordenação de tarefas.
API de fluxo de trabalho : define fluxos de trabalho persistentes e de longa duração que combinam processos determinísticos com tomada de decisão baseada em LLM. Floki usa isso para orquestrar fluxos de trabalho complexos de agentes de várias etapas de maneira integrada.
? Gerenciamento de estado : fornece um armazenamento flexível de valores-chave para que os agentes retenham o contexto entre as interações, garantindo continuidade e adaptabilidade durante os fluxos de trabalho.
? Atores : implementa o padrão Virtual Actor, permitindo que os agentes operem como unidades autônomas e com estado que manipulam mensagens sequencialmente. Isso elimina preocupações de simultaneidade e melhora a escalabilidade nos sistemas de agentes do Floki.
Certifique-se de ter o Python já instalado. Python >=3.9
pip instalar floki-ai
pip instalar git + https://github.com/Cyb3rWard0g/floki.git
poetry :clone do git https://github.com/Cyb3rWard0g/flokicd floki instalação de poesia
Instale a CLI do Dapr para gerenciar tarefas relacionadas ao Dapr, como executar aplicativos com sidecars, visualizar logs e iniciar o painel do Dapr. Funciona perfeitamente com ambientes auto-hospedados e Kubernetes. Para obter um guia passo a passo completo, visite a página oficial de instalação do Dapr CLI.
Verifique se a CLI está instalada reiniciando o terminal/prompt de comando e executando o seguinte:
dapr-h
Certifique-se de ter o Docker já instalado. Eu uso o Docker Desktop.
Inicialize o Dapr localmente para configurar um ambiente auto-hospedado para desenvolvimento. Este processo instala binários secundários Dapr, executa serviços essenciais como Redis (armazenamento de estado e corretor de mensagens) e Zipkin (observabilidade) e prepara uma pasta de componentes padrão. Para etapas detalhadas, consulte o guia oficial sobre como inicializar o Dapr localmente.
Para inicializar os contêineres do plano de controle Dapr e criar um arquivo de configuração padrão, execute:
inicialização dapr
Verifique se você tem instâncias de contêiner com imagens daprio/dapr , openzipkin/zipkin e redis em execução:
janela de encaixe ps
Floki nasceu do desejo de explorar e aprender mais sobre o Dapr e seu potencial para a construção de sistemas de agentes. Eu queria entender como implantar agentes como serviços, gerenciar a comunicação de mensagens e conectar vários componentes de maneira eficaz. Ao longo do caminho, procurei diversas estruturas estabelecidas para ideias e orientação, que ajudaram a moldar meu pensamento e abordagem:
https://github.com/microsoft/autogen
https://github.com/langchain-ai/langchain
https://github.com/run-llama/llama_deploy
Embora essas estruturas forneçam insights valiosos, Floki é minha opinião única sobre como aproveitar o Dapr para fluxos de trabalho e sistemas baseados em agentes. Reflete minha jornada de aprendizado e pesquisa contínua neste espaço emocionante.
