llm ls
0.5.3
중요한
이것은 현재 진행중인 작업이며, 상황이 깨질 것으로 기대합니다!
LLM-LS는 LLM을 활용하여 개발 경험을 더 매끄럽고 효율적으로 만드는 LSP 서버입니다.
LLM-LS의 목표는 IDE 확장을 구축 할 수있는 공통 플랫폼을 제공하는 것입니다. LLM-LS는 LLMS와 상호 작용하는 것과 관련하여 무거운 리프팅을 처리하여 확장 코드가 가능한 한 가벼울 수 있도록합니다.
현재 파일을 컨텍스트로 사용하여 프롬프트를 생성합니다. 귀하의 요구에 따라 "가운데 채우기"를 사용할 수 있습니다.
또한 프롬프트를 토큰 화하여 모델의 컨텍스트 창 안에 있는지 확인합니다.
재교육을 가능하게하는 요청 및 완료에 대한 정보를 수집합니다.
LLM-LS는 어디서나 데이터를 내보내지 않습니다 (모델 API를 쿼리 할 때 사용자 에이전트를 설정하는 ~/.cache/llm_ls/llm-ls.log 외에). info 로 로그 레벨.
LLM-LS는 코드의 AST를 구문 분석하여 완성이 멀티 라인, 단일 라인 또는 빈 (완료 없음)인지 확인합니다.
LLM-LS는 Python llama.cpp 서버 바인딩과 같은 Hugging Face의 추론 API, Face의 텍스트 생성 관계, Ollama 및 OpenAi 호환 API와 호환됩니다.
suffix_percent 설정을 추가하십시오.max_tokens 추가
