Tools und Ressourcen zum lokalen AusfĂĽhren von KI-Modellen
Inferenz-Engine
4 ToolsModelle
7 ToolsDeepSeek V3 & R1
Chinesische Open-Source MoE-Modelle mit exzellenter Reasoning-Performance
Gemma 3
Googles leichtgewichtige Open-Source Modelle basierend auf Gemini 2.0 Technologie
GPT-OSS
OpenAIs erste Open-Weight Modelle mit Reasoning-Fähigkeiten
Kimi K2.5
1 Trillion Parameter MoE-Modell mit visuellen Fähigkeiten und Agent Swarm
Llama 4
Metas neueste Open-Source LLM-Generation mit nativ multimodalen Fähigkeiten
Mistral 3
Französisches Open-Source MoE-Modell mit multimodalen Fähigkeiten
Qwen3-Coder
Alibabas spezialisiertes Coding-Modell mit agentic capabilities
Hardware
5 ToolsMac Mini M4 / M4 Pro
Kompakte AI-Workstation mit Unified Memory fĂĽr lokale LLM-Inferenz
Minisforum AI Mini PCs
Kompakte Mini-PCs mit AMD Ryzen AI und Intel Core Ultra fĂĽr lokale AI
NVIDIA DGX Spark
KI-Supercomputer mit Grace Blackwell auf dem Schreibtisch – bis zu 1 PetaFLOP KI-Leistung
Nvidia Project DIGITS
Desktop AI-Computer mit 128GB Unified Memory fĂĽr lokale AI-Entwicklung
Nvidia RTX 4090
Premium-GPU mit 24GB VRAM fĂĽr lokale LLM-Inferenz und Fine-Tuning
Oberfläche
4 ToolsJan
100% offline ChatGPT-Alternative mit vollständiger Privatsphäre
KoboldCpp
Eine benutzerfreundliche Oberfläche zum Ausführen lokaler LLMs
LM Studio
Eine grafische Benutzeroberfläche zum Ausführen lokaler Sprachmodelle
text-generation-webui
Flexibles Web-UI fĂĽr Textgenerierung mit umfangreicher Extension-UnterstĂĽtzung
Workflow-Automatisierung
3 ToolsBenchmarks
4 ToolsArtificial Analysis
Unabhängige Performance-Analyse von über 100 LLMs mit detaillierten Metriken
Hugging Face Open LLM Leaderboard
Technisches Benchmark-Leaderboard fĂĽr Open-Source LLMs mit 6 standardisierten Tests
LLM Explorer
Interaktive Tabelle mit 51.600+ Modellen und umfangreichen Filterfunktionen
LMSYS Chatbot Arena
Community-getriebenes LLM-Ranking durch Pairwise-Vergleiche mit Elo-System
Lernressourcen
3 ToolsfreeCodeCamp – Local AI mit Ollama
Kostenloser Video-Kurs (~3 Std.) zu Ollama, Python, RAG und praxisnahen Projekten
LLMlokal.de
Deutschsprachiger Einsteiger-Guide zu Hardware, Tools und Modellen fĂĽr lokale LLMs
Local AI Master
Kostenlose interaktive Guides, PDF-Module und Tutorials zu Ollama und lokaler KI