Ollama

Beschreibung: Große Sprachmodelle lokal mit einer einfachen API ausführen

Website: https://ollama.ai

Ollama bietet eine einfache Möglichkeit, LLMs lokal auszuführen. Es übernimmt Modell-Downloads, Verwaltung und bietet eine einfache API.

Features

• Ein-Befehl Modell-Installation
• REST API zur Integration
• Unterstützung für viele beliebte Modelle
• Automatische GPU-Erkennung

Schnellstart

ollama run llama2