07 · Python · Web · v0.3.0 · MIT
FLE Studio
Ein lokaler Chat und ein Labor für llama.cpp und FLE: Installation, Modelle, Live-Daten, alles auf deinem Rechner.
- Betriebssysteme: macOS, Linux, Windows
- 3
- Konto, Telemetrie oder Cloud
- 0
- Voreinstellung – nur bei Wunsch im Netz erreichbar
- 127.0.0.1
Was es ist
FLE Studio ist eine einzige lokale App: ein Chat im Browser, Live-Zahlen während die Antwort entsteht, ein Modell-Lader und Startprofile. Es arbeitet mit der FLE-Engine und mit gewöhnlichem llama.cpp auf macOS, Linux und Windows – kein Konto, keine Telemetrie, nichts läuft in der Cloud. Reine Python-Standardbibliothek, der Installer bringt sein eigenes Python mit.
Was es kann
- Chat. Markdown, Code-Blöcke, aufklappbares Reasoning, Anhänge (Text, PDF, Bilder), Werkzeuge und MCP-Server; bearbeiten, verzweigen, durchsuchen und exportieren.
- Live-Daten. Tempo beim Schreiben, Annahmequote des Entwurfs, GPU-Nutzung und Trefferquote des FLE-Expertencaches, während die Antwort läuft.
- Modell-Lader. Zeigt vor dem Download, ob ein Modell auf deine Maschine passt; jede Datei wird gegen die SHA-256 von Hugging Face geprüft.
- Startprofile. Ein passender Startbefehl für deine Maschine, eigene Profile mit vollständigem Kommando, Kontextgröße, GPU, Threads und Cache-Budget.
- Forge. Eigene Quants bauen: Expertenebenen aus vorhandenen Quants übernehmen, mit REAP beschneiden, gegen das Original prüfen (KL-Divergenz, Perplexität).
- Host und Client. Studio auf dem Laptop, rechnen auf der GPU-Maschine – per Kopplungscode oder über einen SSH-Tunnel, den Studio selbst aufbaut und beobachtet.
Loslegen
$ curl -LsSf https://raw.githubusercontent.com/sirfyyn/fle-studio/main/install.sh | sh
$ fle-studio # öffnet http://127.0.0.1:8642 im Browser