프로바이더

Astreus CLI는 여러 LLM 프로바이더를 지원합니다. 다양한 모델로 에이전트를 테스트하고 사용 사례에 가장 적합한 조합을 찾을 수 있도록 프로바이더 간을 원활하게 전환할 수 있습니다.

지원되는 프로바이더

OpenAI

GPT 모델에 접근할 수 있는 기본 프로바이더입니다.

export OPENAI_API_KEY=sk-your-api-key
astreus

사용 가능한 모델:

• gpt-4o (기본값) - 가장 강력한 성능
• gpt-4o-mini - 빠르고 효율적
• gpt-4-turbo - GPT-4 Turbo
• gpt-4 - 오리지널 GPT-4
• gpt-3.5-turbo - 빠르고 비용 효율적

Anthropic (Claude)

세밀한 대화를 위해 Claude 모델을 사용합니다.

export ANTHROPIC_API_KEY=your-api-key
ASTREUS_PROVIDER=claude astreus

사용 가능한 모델:

• claude-sonnet-4-20250514 (기본값) - Claude Sonnet 4
• claude-3-5-sonnet-20241022 - Claude 3.5 Sonnet

Google (Gemini)

Google의 Gemini 모델을 사용합니다.

export GEMINI_API_KEY=your-api-key
ASTREUS_PROVIDER=gemini astreus

사용 가능한 모델:

• gemini-pro (기본값) - Gemini Pro
• gemini-pro-vision - 비전 지원

Ollama (로컬 모델)

Ollama로 로컬에서 모델을 실행합니다. API 키가 필요하지 않습니다.

# Make sure Ollama is running
ollama serve

# Start CLI with Ollama
ASTREUS_PROVIDER=ollama astreus

사용 가능한 모델:

• llama3 (기본값) - Llama 3
• llama2 - Llama 2
• mistral - Mistral
• codellama - 코드 특화 Llama

프로바이더 전환

시작 시

환경 변수를 사용합니다:

ASTREUS_PROVIDER=claude ASTREUS_MODEL=claude-sonnet-4-20250514 astreus

세션 중

슬래시 명령어로 전환합니다:

/provider claude
/model claude-sonnet-4-20250514

또는 대화형 선택기를 엽니다:

/provider
/model

프로바이더 설정

커스텀 엔드포인트

기업 배포나 프록시 환경을 위한 설정입니다:

# Ollama on different host
export OLLAMA_HOST=http://192.168.1.100:11434

비전 지원

일부 프로바이더는 비전(이미지) 기능을 지원합니다:

# Separate API key for vision (optional)
export OPENAI_VISION_API_KEY=sk-your-vision-key
export ANTHROPIC_VISION_API_KEY=your-vision-key
export GEMINI_VISION_API_KEY=your-vision-key

임베딩 지원

메모리 및 지식 기능을 위한 설정입니다:

export OPENAI_EMBEDDING_API_KEY=sk-your-embedding-key
export GEMINI_EMBEDDING_API_KEY=your-embedding-key

에이전트 개발을 위한 모델 선택

구축하려는 에이전트 유형에 따라 적절한 모델을 선택하세요:

여러 프로바이더에서 에이전트 테스트하기

에이전트를 구축할 때는 다양한 프로바이더로 테스트해 보는 것이 유용합니다:

# Start developing with fast, cheap model
/provider openai
/model gpt-4o-mini

# Test complex reasoning with top models
/provider claude
/model claude-sonnet-4-20250514

# Test locally before deployment
/provider ollama
/model llama3

이 워크플로우를 통해 여러 LLM에서 에이전트가 어떻게 동작하는지 파악하고, 사용 사례에 맞는 성능, 속도, 비용의 최적 균형을 찾을 수 있습니다.