? Floki는 개발 초기 단계에 있습니다. 프레임워크는 진행 중인 연구의 일환으로 적극적으로 발전하고 있으며 저는 여전히 Dapr을 효과적으로 통합하는 방법을 탐구하고 학습하고 있습니다. 프레임워크가 성숙해지고 통찰력이 개선됨에 따라 API 및 핵심 구조에 대한 획기적인 변화가 예상됩니다.
Floki는 연구원과 개발자가 LLM 기반 자율 에이전트를 실험할 수 있는 오픈 소스 프레임워크입니다. LLM 추론 API에 원활하게 연결하는 동시에 에이전트를 생성, 조정 및 관리할 수 있는 도구를 제공합니다. Dapr을 기반으로 구축된 Floki는 마이크로서비스를 단순화하고 결정론적 워크플로와 이벤트 기반 상호 작용을 모두 지원하는 통합 프로그래밍 모델을 활용합니다. Dapr의 Virtual Actor 패턴을 사용하는 Floki는 에이전트가 메시지를 순차적으로 처리하는 독립적이고 독립적인 단위로 작동하도록 하여 동시성 문제를 제거하는 동시에 더 큰 워크플로에 원활하게 통합되도록 합니다. 또한 에이전트가 공유 메시지 버스를 통해 통신하는 Dapr의 Pub/Sub 통합을 통해 에이전트 협업을 촉진하고 작업이 효율적으로 분산되고 에이전트가 함께 작업하여 공유 목표를 달성하는 워크플로 설계를 단순화합니다. Floki는 이러한 기능을 결합하여 에이전트 워크플로와 다중 에이전트 시스템의 협업 및 확장을 가능하게 하는 구성 요소를 탐색할 수 있는 강력한 방법을 제공하며 모두 Dapr을 기반으로 합니다.
Dapr은 서비스 호출, Pub/Sub 메시징, 워크플로 및 상태 관리와 같은 기능을 위한 내장 API를 제공하여 탄력적이고 확장 가능한 시스템 개발을 단순화하는 통합 프로그래밍 모델을 Floki에 제공합니다. 에이전트 워크플로를 정의하는 데 필수적인 이러한 구성 요소를 사용하면 개발자는 기본 기능을 다시 구축하는 대신 에이전트 및 워크플로를 설계하는 데 집중할 수 있습니다. Floki는 Dapr의 사이드카 아키텍처와 이식 가능한 이벤트 중심 런타임을 활용하여 에이전트가 효과적으로 협업하고, 작업을 공유하고, 클라우드 및 엣지 환경 전반에 걸쳐 동적으로 적응할 수 있도록 지원합니다. 이러한 원활한 통합은 결정론적 워크플로와 LLM 기반 의사 결정을 통합 시스템으로 통합하여 다중 에이전트 시스템과 확장 가능한 에이전트 워크플로를 더 쉽게 실험할 수 있게 해줍니다.
서비스 간 호출 : 기본 제공 서비스 검색, 오류 처리 및 분산 추적을 통해 에이전트 간의 직접 통신을 촉진합니다. 에이전트는 다중 에이전트 워크플로의 동기 메시징에 이를 활용할 수 있습니다.
⚡️ 게시 및 구독 : 공유 메시지 버스를 통해 에이전트 간의 느슨하게 결합된 협업을 지원합니다. 이를 통해 작업 분배 및 조정에 중요한 실시간 이벤트 기반 상호 작용이 가능해집니다.
워크플로 API : 결정론적 프로세스와 LLM 기반 의사 결정을 결합하는 장기 실행 지속적인 워크플로를 정의합니다. Floki는 이를 사용하여 복잡한 다단계 에이전트 워크플로를 원활하게 조정합니다.
? 상태 관리 : 에이전트가 상호 작용 전반에 걸쳐 컨텍스트를 유지할 수 있도록 유연한 키-값 저장소를 제공하여 워크플로 중에 연속성과 적응성을 보장합니다.
? 행위자 : 가상 행위자 패턴을 구현하여 에이전트가 메시지를 순차적으로 처리하는 독립적인 상태 저장 단위로 작동할 수 있도록 합니다. 이는 동시성 문제를 제거하고 Floki 에이전트 시스템의 확장성을 향상시킵니다.
Python이 이미 설치되어 있는지 확인하십시오. Python >=3.9
pip 설치 floki-ai
pip 설치 git+https://github.com/Cyb3rWard0g/floki.git
poetry
포함된 출처:자식 클론 https://github.com/Cyb3rWard0g/flokicd floki 시 설치
사이드카로 애플리케이션 실행, 로그 보기, Dapr 대시보드 실행과 같은 Dapr 관련 작업을 관리하려면 Dapr CLI를 설치하세요. 자체 호스팅 환경과 Kubernetes 환경 모두에서 원활하게 작동합니다. 전체 단계별 가이드를 보려면 공식 Dapr CLI 설치 페이지를 방문하세요.
터미널/명령 프롬프트를 다시 시작하고 다음을 실행하여 CLI가 설치되었는지 확인합니다.
dapr -h
Docker가 이미 설치되어 있는지 확인하십시오. 저는 Docker Desktop을 사용합니다.
개발을 위한 자체 호스팅 환경을 설정하려면 Dapr을 로컬로 초기화하세요. 이 프로세스는 Dapr 사이드카 바이너리를 설치하고 Redis(상태 저장소 및 메시지 브로커) 및 Zipkin(관측 가능성)과 같은 필수 서비스를 실행하며 기본 구성 요소 폴더를 준비합니다. 자세한 단계는 Dapr을 로컬로 초기화하는 방법에 대한 공식 가이드를 참조하세요.
Dapr 제어 영역 컨테이너를 초기화하고 기본 구성 파일을 생성하려면 다음을 실행하세요.
dapr 초기화
daprio/dapr
, openzipkin/zipkin
및 redis
이미지가 실행 중인 컨테이너 인스턴스가 있는지 확인합니다.
도커 ps
Floki는 Dapr과 에이전트 시스템 구축에 대한 잠재력에 대해 더 많이 탐구하고 배우려는 열망에서 탄생했습니다. 에이전트를 서비스로 배포하고, 메시지 통신을 관리하고, 다양한 구성 요소를 효과적으로 연결하는 방법을 이해하고 싶었습니다. 그 과정에서 나는 내 생각과 접근 방식을 형성하는 데 도움이 된 아이디어와 지침을 위해 몇 가지 확립된 프레임워크를 살펴보았습니다.
https://github.com/microsoft/autogen
https://github.com/langchain-ai/langchain
https://github.com/run-llama/llama_deploy
이러한 프레임워크는 귀중한 통찰력을 제공했지만 Floki는 에이전트 기반 워크플로 및 시스템에 Dapr을 활용하는 방법에 대한 나의 독특한 견해입니다. 이는 이 흥미진진한 공간에서의 나의 학습 여정과 지속적인 연구를 반영합니다.