devils advocate

Anwalt des Teufels

Ein einfacher, aber super effektiver LLM -Inferenzrahmen für Planung und Verfeinerung.

Wie es funktioniert

Zwei LLM -Modelle werden mit unterschiedlichen Rollen veranlasst

1. Fragesteller, auch bekannt als Devil's Advocate
2. Überreden

Bei der Lösung einer Aufgabe versucht der Überzeugungser sein Bestes, um den Fragesteller zu überzeugen, seiner vorgeschlagenen Lösung zuzustimmen. Der Fragesteller hingegen versucht logische Inkonsistenzen und Lücken im Vorschlag des Überzeugenden zu finden und stellt detaillierte Fragen. Der Chat zwischen Überredung und Fragesteller setzt sich fort, bis der Fragesteller "mit der Überzeugung übereinstimmt.

Infolgedessen liefert der LLM schließlich einen detaillierten Plan, um die jeweilige Aufgabe zu lösen.

Wie man es benutzt

1. Klonen Sie das Repository

2. Stellen Sie sicher, dass die neueste OpenAI -Bibliothek installiert ist. pip install -U openai

3. Fügen Sie Ihre OpenAI -API -Schlüssel im Code devil_advocate.py hinzu.

4. Ändern Sie die Datei task.txt in Ihre Anforderungen. Die aktuelle Task.txt -Datei hat eine Beispielaufgabe.

5. Mit python devil_advocate.py ausführen

Weitere Gedanken

Dies schwingt mit einem bedingten generativen kontroversen Netzwerk und dem Stand der Technik-Selbstdestillationsparadigmen (BYOL, DINOV2 usw.) mit. Diese Paradigmen haben empirisch festgestellt, dass die Optimierung durch Kopfböden gegen "asymmetrische" Modelle feinkörnigere, robuste Kontextrepräsentationen liefert. Mit weiteren Forschungen frage ich mich, ob LLM -Inferenz -Frameworks die gleichen Ergebnisse aufweisen würden.

Hoffentlich kann dieses Repository diese Idee erweitern und super coole Entdeckungen machen!

Haftungsausschluss

Dies ist eine große Arbeit in Arbeit. Aber ich wollte meine Ideen und einfachen Code teilen, damit Sie alle es ausprobieren können. Es ist super einfach, aber überraschend effektiv.

• Getestet auf OpenAI GPT 4 und 3,5 Turbo.