hal9 다운로드 - hal9 소스 코드 다운로드

hal9

AI 소스 코드

1.0.0

다운로드

Hal9: 생성적 앱 생성 및 공유

몇 초 만에 생성적(LLM 및 디퓨저) 애플리케이션(챗봇 및 API)을 생성하고 배포합니다.

개방형: 모든 모델(OpenAI, Llama, Groq, MidJourney) 및 (LangChain, DSPy)과 같은 라이브러리를 사용합니다.
직관적: 앱 프레임워크(Flask)를 배울 필요가 없습니다. 간단히 input() 및 print() 를 사용하거나 디스크에 파일을 쓸 수 있습니다.
확장 가능: 엔지니어는 확장 가능한 기술(Docker, Kubernetes 등)과 앱을 통합할 수 있습니다.
강력함: OS 프로세스(stdin, stdout, 파일)를 앱 계약으로 사용하면 장기 실행 에이전트, 다중 프로그래밍 언어 및 복잡한 시스템 종속성이 가능해집니다.

AI(RAG, 미세 조정, 정렬, 교육)에 집중하고 엔지니어링 작업(프런트엔드 개발, 백엔드 통합, 배포, 운영)을 건너뜁니다.

시작하기

다음과 같이 몇 초 안에 챗봇을 만들고 공유하세요.

pip install hal9

hal9 create chatbot
hal9 deploy chatbot

deploy hal9.com/devs에서 얻을 수 있는 API 토큰과 함께 HAL9_TOKEN 환경 변수가 필요합니다. 이 토큰을 사용하여 로컬 컴퓨터, 노트북에서 배포하거나 GitHub에서 자동화할 수 있습니다.

HAL9_TOKEN=H9YOURTOKEN hal9 deploy chatbot --name my_first_chatbot

그렇게 쉽게 첫 번째 챗봇을 만들 수 있습니다!

대체 텍스트

/chatbot/app.py 내부 코드에는 사용자 프롬프트를 읽고 결과를 다시 출력하는 "Hello World" 챗봇이 포함되어 있습니다.

 prompt = input ()
print ( f"Echo: { prompt } " )

우리는 단순함을 염두에 두고 이 패키지를 설계했습니다. 코드의 작업은 입력을 읽고 출력을 쓰는 것입니다. 즉, LLM을 사용하고, 이미지를 생성하고, 데이터베이스에 연결하는 도구를 사용하고, 웹 사이트와 게임을 구축하는 챗봇을 만들 수도 있습니다!

창조

기본적으로 hal9 create 기본값은 --template echo 템플릿이지만 다음과 같이 다른 템플릿을 선택할 수 있습니다.

hal9 create chatbot-openai --template openai
hal9 create chatbot-groq --template groq

템플릿은 특정 기술 및 사용 사례에 바로 사용할 수 있는 코드를 제공합니다. --template openai 와 함께 OpenAI의 ChatGPT 유사 템플릿을 사용하는 것이 매우 인기가 있으며 생성된 코드는 다음과 같습니다.

 import hal9 as h9
from openai import OpenAI

messages = h9 . load ( "messages" , [])
prompt = h9 . input ( messages = messages )

completions = OpenAI (). chat . completions . create ( model = "gpt-4" , messages = messages , stream = True )

h9 . complete ( completions , messages = messages )
h9 . save ( "messages" , messages , hidden = True )

학습 섹션에서는 이 코드의 작동 방식을 자세히 설명하지만 빠른 개요도 제공합니다. hal9 패키지에는 생성 AI 코드를 단순화하는 도우미 기능이 포함되어 있습니다. hal9 전혀 사용하지 않고 input() 및 print() 문을 직접 사용하거나 langchain 과 같은 도구를 사용하도록 선택할 수도 있습니다. h9.load() 및 h9.save() 함수는 채팅 세션 전반에 걸쳐 데이터를 로드하고 저장하며, 우리 플랫폼은 기본적으로 상태 비저장입니다. h9.input() 함수는 messages 에 사용자 입력을 저장하는 input() 에 대한 슬림 래퍼입니다. 그런 다음 h9.complete() 완료 결과를 구문 분석하고 결과를 messages 에 저장하는 데 도움이 되는 도우미 함수입니다. 그게 다야!