infinigpt matrix
1.0.0
InfiniGPT는 Matrix 채팅 프로토콜을 위한 OpenAI 챗봇입니다. 그것은 당신이 생각할 수 있는 거의 모든 역할극을 할 수 있는 훌륭한 프롬프트를 가지고 있습니다. 원하는 기본 성격을 설정할 수 있습니다. 언제든지 변경할 수 있으며 각 사용자는 선택한 성격 설정에 따라 별도의 채팅 기록을 갖게 됩니다. 사용자는 원하는 경우 협업을 위해 서로의 채팅 기록과 상호 작용할 수 있지만 그렇지 않은 경우 대화는 채널별, 사용자별로 구분됩니다.
infinigpt-irc에서 IRC에도 사용 가능
이제 Ollama 지원 및 모델 전환이 가능합니다.
pip3 install matrix-nio openai
OpenAI API 키를 가져와 OPENAI_API_KEY와 같은 환경 변수로 설정합니다. 대신 환경 변수를 사용하려는 경우 코드에서 환경 변수를 설정할 수 있는 곳이 있습니다.
사용하는 경우 원하는 Ollama 모델을 config.json의 모델 목록에 추가하세요. 먼저 Ollama를 설치하고 익숙해져야 하며, 로컬 LLM 등을 실행할 수 있는지 확인해야 합니다. 그럴 수 없다면 걱정하지 마세요. 구성에서 이러한 모델을 생략하면 됩니다.
다음 명령을 사용하여 설치하고 업데이트할 수 있습니다.
curl https://ollama.ai/install.sh | sh
모든 설정이 완료되면 사용하려는 모델을 다운로드해야 합니다. 사용 가능한 것을 가지고 놀면서 무엇이 가장 적합한지 확인할 수 있습니다. config.json 파일에 추가하세요. 내가 포함시킨 것을 사용하려면 각각에 대해 ollama pull modelname을 실행하세요.
봇에 대한 Matrix 계정을 설정하세요. 서버, 사용자 이름 및 비밀번호가 필요합니다.
config.json 파일에 추가하세요.
python3 infinigpt.py
.ai 메시지 또는 봇 이름: 메시지 기본 사용법. 성격은 봇 운영자가 미리 설정합니다.
.x 사용자 메시지 이를 통해 다른 사용자의 채팅 기록과 대화할 수 있습니다. user는 사용하려는 기록이 있는 사용자의 표시 이름입니다.
.persona 성격 성격을 변경합니다. 성격, 성격 유형, 대상, 아이디어가 될 수 있습니다. 여기서는 사용자 지정 프롬프트를 사용하지 마세요.
.custom 프롬프트 내장된 프롬프트 대신 사용자 정의 시스템 프롬프트를 사용할 수 있습니다.
.reset 사전 설정된 성격으로 재설정
.stock 성격을 제거하고 표준 GPT 설정으로 재설정
.model 사용 가능한 대형 언어 모델 목록
.model 모델명 모델 변경
.model 재설정 모델 재설정
.help 내장 도움말 메뉴 표시
