Aktuelle Trends und Stand der Technik für die Verwendung offener und lokaler LLM -Modelle als Copiloten, um Code zu vervollständigen, Projekte zu generieren, als Shell -Assistenten zu fungieren, Fehler automatisch zu beheben und vieles mehr.
Halten Sie diese Liste relevant und aktuell, indem Sie Änderungen vornehmen!
Lokale Copiloten befinden sich in einem frühen experimentellen Stadium, wobei die meisten MVP-Qualität sind.
Die Gründe dafür sind:
Wenn sich die Modelle jedoch verbessern und die Herausgeber-Erweiterungen für die Verwendung entwickelt werden, werden wir erwartet, dass wir eine Renaissance von Tools für die Code-Vervollständigung erhalten.
Dieses Dokument ist eine kuratierte Liste lokaler Copiloten, Shell -Assistenten und verwandten Projekte. Es soll eine Ressource für diejenigen sein, die an einer Umfrage der vorhandenen Tools interessiert sind, und Entwicklern dabei zu helfen, den Stand der Technik für Projekte wie diese zu entdecken.
Im Jahr 2021 veröffentlichte Github Copilot, das bei Entwicklern schnell populär wurde. Seitdem sind mit der Flut der KI -Entwicklungen rund um LLMs lokale Modelle zur Verfügung gestellt, die auf Verbrauchermaschinen ausgeführt werden können, und es war nur eine Frage der Zeit, bis Copilot lokal wird.
Viele wahrgenommene Einschränkungen von Githubs Copilot beziehen sich auf seine geschlossene und wolkengeschriebene Natur.
Als Alternative ermöglichen lokale Copiloten:
Editor -Erweiterungen, die zum Vervollständigen von Code mit LLMs verwendet werden:
Name | Editor | Freigegeben | Notizen | |
---|---|---|---|---|
Github Copilot | VSCODE, VIM | 8076 | 2021-6-29 | Das GitHub Original, nicht lokal oder open-Source. |
Cursor | VSCODE | 20730 | 2023-3-14 | VSCODE-Gabel, nicht Open-Source |
Fauxpilot | VSCODE | 14464 | 2022-9-3 | Frühe lokale POC. Abgestanden? |
Tabby | VSCODE, VIM, Intellij | 20170 | 2023-9-30 | Vervollständigt die Cursorauswahl |
TurboPilot | VSCODE | 3835 | 2023-4-10 | Fertigstellungen mit FIM -Unterstützung, inspiriert von Fauxpilot |
Suggingface-VSCODE | VSCODE | 1184 | 2023-6-19 | Gabel von Tabnine, unterstützt StarCoder |
Lokalpilot | VSCODE | 3328 | 2023-10-2 | Dienstprogramm für einfache Hosting von Modellen lokal, für die Verwendung mit offizieller Copilot -Erweiterung mit benutzerdefiniertem API -Endpunkt. |
StarCoderex | VSCODE | 100 | 2023-5-5 | Vervollständigt die Cursorauswahl |
WizardCoder-VSC | VSCODE | 142 | 2023-6-19 | POC, Artikel verfügbar |
Koboldaiconnect | VSCODE | 2023-10-7 | Copilot -Klon mit lokalem Koboldai -Backend | |
Gen.nvim | Vim | 1017 | 2023-10-1 | Bearbeiten Sie die Auswahl mit benutzerdefinierten Eingabeaufforderungen |
Unitaii | VSCODE, EMACS, LSP | 240 | 2023-8-27 | |
Eingeweiht | VSCODE | 825 | 2024-1-8 | Ein Privatsphäre-First-Coding-Assistent. |
Twinny | VSCODE | 2386 | 2024-1-24 | Das am meisten sachlich vor Ort gehostete KI-Code-Completion-Plugin für VS-Code |
Tools, die versuchen, Projekte/Funktionen aus der Spezifikation zu generieren:
Name | Freigegeben | Notizen | |
---|---|---|---|
GPT-Engineer | 51527 | 2023-6-6 | Geben Sie an, was Sie erstellen sollen, die KI fordert die Klärung und baut sie dann auf. |
GPT-Pilot | 29228 | 2023-7-18 | Sehr ähnlich wie GPT-Engineer |
weitermachen | 13883 | 2023-5-24 | VSCODE -Erweiterung. Aufgabenbasierte Autoperete |
Aider | 14883 | 2023-6-8 | AI-Paarprogrammierung in Ihrem Terminal funktioniert gut mit bereits bestehenden, größeren Codebasen |
Riss | 3051 | 2023-6-20 | VSCODE -Erweiterung. Lassen Sie Sie Code schreiben, indem Sie sich unterhalten, macht Ihren IDE -Agenten, KI -Ingenieur, der neben Ihnen funktioniert. |
mentat | 2441 | 2023-7-25 | Mentat koordiniert bearbeitet über mehrere Standorte und Dateien. |
Clippinator | 309 | 2023-4-15 | Verwendet ein Team von Agenten, um zu planen, zu schreiben, zu debuggen und zu testen |
Refact.ai | 1513 | 2023-10-06 | Vollständiger Selbsthostable-Code-Abschluss, Chat und Trainingsdienst, komplett mit VSCODE-Erweiterung. |
LOCALCOMPLETION | 25 | 2023-11-15 | Inline -Fertigstellung mit Unterstützung für alle openAI -kompatiblen Backends |
Chat -Schnittstellen mit Shell/Repl/Notebook -Zugriff. Ähnlich wie die Funktion "Advanced Data Analysis" von ChatGPT (zuvor "Code -Interpreter").
Name | Notizen | |
---|---|---|
Open-Interpreter | 51204 | Open-Source, lokal ausgeführte Implementierung von OpenAIs Code-Interpreter |
gptme | 247 | Unterstützung offener Modelle. Entwickelt von mir, @erikbjare |
Oktogen | 249 | Lokaler Code -Interpreter in der Docker -Umgebung ausführt. |
terminal-x | 32 | Sehr frühes Prototyp, der die natürliche Sprache in Shell -Befehle umwandelt, die seit September 2021 unerbittlich ist |
Doda | > 50 | Elektronenbasierte GUI für einen örtlichen Openai Dev Assistenten |
Modelle, die für die lokale Copilot-Nutzung relevant sind. Bestellt von der letzten ersten.
Name | Größe | Sprachen | Freigegeben | Notizen | |
---|---|---|---|---|---|
Phind Codellama v2 | 34b | Viele | 810 | 2023-8-27 | |
WizardCoder-Python | 7/13/34b | Python | 753 | 2023-8 | |
Codellama | 7/13/34b | Viele | 15705 | 2023-8 | |
Assistentcoder | 15b | 80+ | 741 | 2023-6 | Feinabstimmung von StarCoder |
Replit-Glaive | 3b | 1? | 88 | 2023-7 | Kleiner Modell, das auf hochwertige Daten mit beeindruckender Leistung abgestimmt ist. |
StarCoder | 15b | 80+ | 7219 | 2023-5 | |
Replit-V1-3b | 3b | 20+ | 717 | 2023-5 | |
Santacoder | 1.1b | Python, Java, JavaScript | 325 | 2023-4 | Tiny Model selektiv auf 3 Sprachen aus 'The Stapel' trainiert. |
HINWEIS: Aufgrund des Tempos neuer Modellveröffentlichungen ist dieser Abschnitt zum Zeitverlangen verurteilt.
Datensätze, die für Schulungsmodelle relevant sind.
Name | Größe | Sprachen | Freigegeben | Notizen | |
---|---|---|---|---|---|
Der Stapel | 3tb/6tb | 358 | > 500 | 2022-10 | Ausgeschlossenen Lizenzen mit schwachen Kopyleft (MPL, LGPL, EGL) seit V1.1 |
Misc -relevante nützliche Instrumente.
Name | Freigegeben | Notizen | |
---|---|---|---|
Ollama | 82233 | 2023-8-27 | Machen Sie sich einfach mit großen Sprachmodellen vor Ort auf dem Betrieb. |
Stargazers im Laufe der Zeit: