Provider

Astreus CLI supporta più provider LLM. Passa da uno all'altro senza interruzioni per testare i tuoi agenti con modelli diversi e trovare il migliore per il tuo caso d'uso.

Provider supportati

OpenAI

Il provider predefinito con accesso ai modelli GPT.

export OPENAI_API_KEY=sk-your-api-key
astreus

Modelli disponibili:

• gpt-4o (predefinito) - Il più capace
• gpt-4o-mini - Veloce ed efficiente
• gpt-4-turbo - GPT-4 Turbo
• gpt-4 - GPT-4 originale
• gpt-3.5-turbo - Veloce ed economico

Anthropic (Claude)

Accedi ai modelli Claude per conversazioni raffinate.

export ANTHROPIC_API_KEY=your-api-key
ASTREUS_PROVIDER=claude astreus

Modelli disponibili:

• claude-sonnet-4-20250514 (predefinito) - Claude Sonnet 4
• claude-3-5-sonnet-20241022 - Claude 3.5 Sonnet

Google (Gemini)

Usa i modelli Gemini di Google.

export GEMINI_API_KEY=your-api-key
ASTREUS_PROVIDER=gemini astreus

Modelli disponibili:

• gemini-pro (predefinito) - Gemini Pro
• gemini-pro-vision - Con supporto visione

Ollama (modelli locali)

Esegui modelli localmente con Ollama. Nessuna chiave API richiesta.

# Make sure Ollama is running
ollama serve

# Start CLI with Ollama
ASTREUS_PROVIDER=ollama astreus

Modelli disponibili:

• llama3 (predefinito) - Llama 3
• llama2 - Llama 2
• mistral - Mistral
• codellama - Llama specializzato nel codice

Cambiare provider

All'avvio

Usa le variabili d'ambiente:

ASTREUS_PROVIDER=claude ASTREUS_MODEL=claude-sonnet-4-20250514 astreus

Durante la sessione

Usa i comandi slash per cambiare:

/provider claude
/model claude-sonnet-4-20250514

Oppure apri il selettore interattivo:

/provider
/model

Configurazione del provider

Endpoint personalizzati

Per deployment enterprise o proxy:

# Ollama on different host
export OLLAMA_HOST=http://192.168.1.100:11434

Supporto visione

Alcuni provider supportano funzionalità di visione (immagini):

# Separate API key for vision (optional)
export OPENAI_VISION_API_KEY=sk-your-vision-key
export ANTHROPIC_VISION_API_KEY=your-vision-key
export GEMINI_VISION_API_KEY=your-vision-key

Supporto embedding

Per le funzionalità di memoria e knowledge:

export OPENAI_EMBEDDING_API_KEY=sk-your-embedding-key
export GEMINI_EMBEDDING_API_KEY=your-embedding-key

Scelta del modello per lo sviluppo degli agenti

Scegli il modello giusto in base al tipo di agente che stai costruendo:

Testare gli agenti su più provider

Quando costruisci agenti, è utile testarli con provider diversi:

# Start developing with fast, cheap model
/provider openai
/model gpt-4o-mini

# Test complex reasoning with top models
/provider claude
/model claude-sonnet-4-20250514

# Test locally before deployment
/provider ollama
/model llama3

Questo workflow ti aiuta a capire come si comporta il tuo agente su diversi LLM e a trovare il miglior equilibrio tra capacità, velocità e costo per il tuo caso d'uso.