llm ls

LLM-LS

重要的

目前，這是一項正在進行的工作，期望事情會破裂！

LLM-LS是利用LLM的LSP服務器，可使您的開發體驗更加順暢，更有效。

LLM-LS的目標是為IDE擴展的建立提供一個共同的平台。 LLM-LS在與LLMS相互作用方面負責繁重，因此擴展代碼可以盡可能輕巧。

特徵

迅速的

使用當前文件作為上下文生成提示。可以使用“填充中間”或不取決於您的需求。

它還可以通過將提示提示來確保您在模型的上下文窗口中。

遙測

收集有關可以啟用重新培訓的請求和完成的信息。

請注意， LLM-LS不會在任何地方導出任何數據（在查詢模型API時設置用戶代理除外），如果設置設置該設置，則所有內容都存儲在日誌文件（ ~/.cache/llm_ls/llm-ls.log ）中日誌級別至info 。

完成

LLM-LS解析代碼的AST，以確定完成是多行，單行還是空的（無完成）。

多個後端

LLM-LS與擁抱Face的推理API兼容，擁抱Face的文本生成推導，Ollama和OpenAI兼容API，例如Python Llama.cpp服務器綁定。

兼容擴展

• llm.nvim
• LLM-VSCODE
• llm-intellij
• jupytercoder

路線圖

• 支持從工作空間中的多個文件獲取上下文
• 添加suffix_percent設置，以確定前綴＃前綴與後綴的比例
• 添加上下文窗口填充百分比或將上下文_WINDOW更改為max_tokens
• 過濾不良建議（重複，與下面相同等）
• OLTP痕跡？