Provider

Astreus CLI unterstützt mehrere LLM-Provider. Wechsle nahtlos zwischen ihnen, um deine Agenten mit verschiedenen Modellen zu testen und die beste Lösung für deinen Anwendungsfall zu finden.

Unterstützte Provider

OpenAI

Der Standard-Provider mit Zugriff auf GPT-Modelle.

export OPENAI_API_KEY=sk-your-api-key
astreus

Verfügbare Modelle:

• gpt-4o (Standard) - Am leistungsfähigsten
• gpt-4o-mini - Schnell und effizient
• gpt-4-turbo - GPT-4 Turbo
• gpt-4 - Original GPT-4
• gpt-3.5-turbo - Schnell und kosteneffizient

Anthropic (Claude)

Zugriff auf Claude-Modelle für differenzierte Unterhaltungen.

export ANTHROPIC_API_KEY=your-api-key
ASTREUS_PROVIDER=claude astreus

Verfügbare Modelle:

• claude-sonnet-4-20250514 (Standard) - Claude Sonnet 4
• claude-3-5-sonnet-20241022 - Claude 3.5 Sonnet

Google (Gemini)

Verwende Googles Gemini-Modelle.

export GEMINI_API_KEY=your-api-key
ASTREUS_PROVIDER=gemini astreus

Verfügbare Modelle:

• gemini-pro (Standard) - Gemini Pro
• gemini-pro-vision - Mit Bildverständnis

Ollama (Lokale Modelle)

Führe Modelle lokal mit Ollama aus. Kein API-Schlüssel erforderlich.

# Make sure Ollama is running
ollama serve

# Start CLI with Ollama
ASTREUS_PROVIDER=ollama astreus

Verfügbare Modelle:

• llama3 (Standard) - Llama 3
• llama2 - Llama 2
• mistral - Mistral
• codellama - Code-fokussiertes Llama

Provider wechseln

Beim Start

Verwende Umgebungsvariablen:

ASTREUS_PROVIDER=claude ASTREUS_MODEL=claude-sonnet-4-20250514 astreus

Während der Sitzung

Verwende Slash-Befehle zum Wechseln:

/provider claude
/model claude-sonnet-4-20250514

Oder öffne den interaktiven Selektor:

/provider
/model

Provider-Konfiguration

Benutzerdefinierte Endpunkte

Für Unternehmensbereitstellungen oder Proxys:

# Ollama on different host
export OLLAMA_HOST=http://192.168.1.100:11434

Vision-Unterstützung

Einige Provider unterstützen Vision (Bild)-Funktionen:

# Separate API key for vision (optional)
export OPENAI_VISION_API_KEY=sk-your-vision-key
export ANTHROPIC_VISION_API_KEY=your-vision-key
export GEMINI_VISION_API_KEY=your-vision-key

Embedding-Unterstützung

Für Speicher- und Wissensfunktionen:

export OPENAI_EMBEDDING_API_KEY=sk-your-embedding-key
export GEMINI_EMBEDDING_API_KEY=your-embedding-key

Modellauswahl für die Agentenentwicklung

Wähle das richtige Modell basierend auf dem Agententyp, den du erstellst:

Agenten providerübergreifend testen

Beim Erstellen von Agenten ist es hilfreich, mit verschiedenen Providern zu testen:

# Start developing with fast, cheap model
/provider openai
/model gpt-4o-mini

# Test complex reasoning with top models
/provider claude
/model claude-sonnet-4-20250514

# Test locally before deployment
/provider ollama
/model llama3

Dieser Workflow hilft dir zu verstehen, wie sich dein Agent über verschiedene LLMs hinweg verhält, und die beste Balance aus Leistungsfähigkeit, Geschwindigkeit und Kosten für deinen Anwendungsfall zu finden.