AI Runner는 오픈 소스 LLM(대형 언어 모델) 및 AI 이미지 생성기(Stable Diffusion)를 자체 하드웨어에서 실행할 수 있는 인터페이스입니다.
웹 서버나 클라우드 서비스 없이도 AI 모델을 실행할 수 있는 간단하고 직관적인 인터페이스로 사용하기 쉽게 설계되었습니다.
속도와 효율성에 최적화되어 실시간으로 이미지를 생성하고 챗봇과 대화할 수 있습니다.
AI Runner는 오픈 소스 LLM(대형 언어 모델) 및 AI 이미지 생성기(Stable Diffusion)를 자체 하드웨어에서 실행할 수 있는 AI 인터페이스입니다.
특징 | 설명 |
---|---|
LLM 및 커뮤니케이션 | |
음성 기반 챗봇 대화 | 음성으로 챗봇과 대화하세요 |
텍스트 음성 변환 | 텍스트를 음성 오디오로 변환 |
음성-텍스트 | 음성 오디오를 텍스트로 변환 |
LLM을 통한 맞춤형 챗봇 | 대규모 언어 모델을 사용하여 텍스트 생성 |
로컬 문서 및 웹사이트의 RAG | LLM을 사용하여 로컬 문서와 상호 작용 |
? 이미지 생성 | |
안정 확산(모든 버전) | Stable Diffusion을 사용하여 이미지 생성 |
그리기 도구 | 스케치를 예술로 바꾸다 |
텍스트를 이미지로 | 텍스트 설명에서 이미지 생성 |
이미지 대 이미지 | 입력 이미지를 기반으로 이미지 생성 |
?️ 이미지 조작 | |
인페인트와 아웃페인트 | 컨텍스트를 유지하면서 이미지의 일부를 수정합니다. |
컨트롤넷 | 추가 입력으로 이미지 생성 제어 |
로라 | LoRA를 통해 모델을 효율적으로 미세 조정 |
텍스트 임베딩 | 이미지 생성 제어를 위해 텍스트 임베딩 사용 |
이미지 필터 | 흐림 효과, 필름 그레인, 픽셀 아트 등 |
? 공익사업 | |
로컬에서 오프라인으로 실행 | 인터넷 없이 자신의 하드웨어에서 실행 |
빠른 생성 | ~2초 안에 이미지 생성(RTX 2080s) |
한 번에 여러 모델 실행 | 여러 모델을 동시에 활용 |
다크 모드 | 저조도 환경에서 편안한 시청 경험 |
무한 스크롤 캔버스 | 생성된 이미지를 원활하게 스크롤 |
NSFW 필터 토글 | NSFW 콘텐츠의 가시성 제어 지원 |
NSFW 가드레일 토글 | LLM 유해 콘텐츠 생성 방지 |
완전히 사용자 정의 가능 | 모든 매개변수를 쉽게 조정 |
빠른 로딩 시간, 반응형 인터페이스 | 부드럽고 반응이 빠른 사용자 경험을 즐기세요 |
순수 파이썬 | 웹 서버에 의존하지 않고 순수 Python 구현 |
패키지, 소스 및 라이브러리 등 AI Runner를 시작하는 방법에는 여러 가지가 있습니다.
자세한 패키징 및 설치 지침은 위키에서 찾을 수 있습니다.
설치
pip install airunner
달리기
airunner
AI Runner는 Stable Diffusion에 필요한 핵심 모델은 물론, 텍스트 음성 변환, 음성 텍스트 변환 기능을 갖춘 챗봇을 실행하는 데 필요한 모든 모델을 설치합니다. 그러나 자신만의 아트 생성기 모델을 제공해야 합니다.
Huggingface.co 또는 civitai.com에서 모델을 다운로드할 수 있습니다.
지원되는 안정 확산 모델은 다음과 같습니다.
모델은 airunner
디렉토리의 해당 디렉토리에 배치되어야 합니다.
~/.local/share/airunner
├── art
│ ├── models
│ │ ├── SD 1.5
│ │ │ ├── lora
│ │ │ └── embeddings
│ │ ├── SDXL 1.0
│ │ │ ├── lora
│ │ │ └── embeddings
│ │ └── SDXL Turbo
│ │ ├── lora
│ │ └── embeddings
모든 단위 테스트 실행
python -m unittest discover -s src/airunner/tests
단일 단위 테스트 실행 python -m unittest src/airunner/tests/<file_name>
예
python -m unittest src/airunner/tests/test_prompt_weight_convert.py
AI Runner v3.0은 Huggingface 라이브러리로 구축되었지만 원격 측정 또는 추적 기능의 적용을 제거하기 위해 주의를 기울였습니다.
필요한 모델을 다운로드하려면 설정 마법사만 인터넷에 액세스하면 됩니다.
자세한 내용은 Darklock 및 Facehuggershield 라이브러리를 참조하세요.
변환기 라이브러리에 대한 쓰기 액세스가 비활성화되어 런타임 시 허깅페이스 캐시 디렉토리를 생성할 수 없습니다.
응용 프로그램 자체는 여전히 읽기 및 쓰기를 위해 디스크에 액세스할 수 있지만 사용자가 제공한 airunner
디렉토리(기본적으로 ~/.local/share/airunner
에 있음)에 대한 읽기 및 쓰기가 제한되어 있습니다.
디스크에 액세스하려는 다른 모든 시도는 사용자의 검토를 위해 차단되고 기록됩니다.
자세한 내용은 src/security/restrict_os_access.py
참조하세요.
Huggingface Hub에는 AI Runner에서 완전히 비활성화된 원격 측정 및 추적 기능이 포함되어 있습니다.
본 도서관에 취해진 보안조치는 다음과 같습니다.
자세한 내용은 Facehuggershield를 참조하세요.