KoboldCpp

Beschreibung: Eine benutzerfreundliche Oberfläche zum Ausführen lokaler LLMs

Website: https://github.com/LostRuins/koboldcpp

KoboldCpp ist eine webbasierte Oberfläche zum Ausführen lokaler Sprachmodelle. Es bietet eine Chat-Oberfläche ähnlich wie ChatGPT, läuft aber vollständig auf deinem Rechner.

Features

• Webbasierte Benutzeroberfläche
• Unterstützung für mehrere Modellformate
• Story-Schreibmodus
• API-Kompatibilität