Mac Mini M4 / M4 Pro

Beschreibung: Kompakte AI-Workstation mit Unified Memory für lokale LLM-Inferenz

Website: https://www.apple.com/mac-mini/

Der Mac Mini M4 ist eine ausgezeichnete Wahl für lokale AI-Inferenz. Mit Unified Memory Architecture und M4-Chip bietet er starke Performance für LLMs bei niedrigem Energieverbrauch.

Technische Daten

• Unified Memory: Bis zu 64GB gemeinsamer Speicher für CPU und GPU (M4 Pro)
• Memory Bandwidth: 120 GB/s für schnelle Token-Generierung
• Metal Acceleration: GPU-Beschleunigung ohne komplexe Driver-Installation
• Energieeffizienz: Deutlich geringer als NVIDIA GPU-Setups

Performance

• LLaMA 2/3 7B: ~12 tokens/second (32GB RAM)
• LLaMA 3.1 8B quantisiert: ~28 tokens/second
• Modellgröße: Effizient bis ~10 Milliarden Parameter

Vorteile

• Ab $599 für Basismodell
• Keine VRAM-Limitierung durch Unified Memory
• Perfekt mit Ollama und llama.cpp
• Leiser, kühler Betrieb