Providers

LiteLLM

LiteLLM est une passerelle LLM open source offrant une API unifiée pour plus de 100 fournisseurs de modèles. Faites transiter OpenClaw par LiteLLM pour centraliser le suivi des coûts, la journalisation, les clés virtuelles avec des limites de dépenses et le basculement entre services principaux, sans modifier la configuration d’OpenClaw.

Démarrage rapide

Configuration initiale (recommandée)

bash

openclaw onboard --auth-choice litellm-api-key

Pour une configuration non interactive avec un proxy distant, transmettez explicitement l’URL du proxy :

bash

openclaw onboard --non-interactive --accept-risk --auth-choice litellm-api-key \  --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"

Configuration manuelle

Démarrer le proxy LiteLLM

bash

pip install 'litellm[proxy]'litellm --model claude-opus-4-6

Connecter OpenClaw à LiteLLM

bash

export LITELLM_API_KEY="your-litellm-key"openclaw

Configuration

json5

{  models: {    providers: {      litellm: {        baseUrl: "http://localhost:4000",        apiKey: "${LITELLM_API_KEY}",        api: "openai-completions",        models: [          {            id: "claude-opus-4-6",            name: "Claude Opus 4.6",            reasoning: true,            input: ["text", "image"],            contextWindow: 200000,            maxTokens: 64000,          },          {            id: "gpt-4o",            name: "GPT-4o",            reasoning: false,            input: ["text", "image"],            contextWindow: 128000,            maxTokens: 8192,          },        ],      },    },  },  agents: {    defaults: {      model: { primary: "litellm/claude-opus-4-6" },    },  },}

Le modèle par défaut écrit lors de la configuration initiale est litellm/claude-opus-4-6.

Génération d’images

LiteLLM peut prendre en charge l’outil image_generate au moyen des routes compatibles avec OpenAI /images/generations et /images/edits. Le modèle d’image par défaut est gpt-image-2 ; configurez-en un autre sous agents.defaults.imageGenerationModel :

json5

{  models: {    providers: {      litellm: {        baseUrl: "http://localhost:4000",        apiKey: "${LITELLM_API_KEY}",      },    },  },  agents: {    defaults: {      imageGenerationModel: {        primary: "litellm/gpt-image-2",        timeoutMs: 180_000,      },    },  },}

Les URL LiteLLM en local loopback (http://localhost:4000, 127.0.0.1, ::1, host.docker.internal) fonctionnent sans dérogation globale pour les réseaux privés. Pour un proxy hébergé sur le réseau local, définissez models.providers.litellm.request.allowPrivateNetwork: true, car la clé d’API est envoyée à cet hôte.

Fonctions avancées

Clés virtuelles

Créez une clé dédiée à OpenClaw avec des limites de dépenses :

bash

curl -X POST "http://localhost:4000/key/generate" \  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \  -H "Content-Type: application/json" \  -d '{    "key_alias": "openclaw",    "max_budget": 50.00,    "budget_duration": "monthly"  }'

Utilisez la clé générée comme LITELLM_API_KEY.

Routage des modèles

LiteLLM peut acheminer les requêtes de modèles vers différents services principaux. Effectuez la configuration dans le fichier config.yaml de LiteLLM :

yaml

model_list:  - model_name: claude-opus-4-6    litellm_params:      model: claude-opus-4-6      api_key: os.environ/ANTHROPIC_API_KEY   - model_name: gpt-4o    litellm_params:      model: gpt-4o      api_key: os.environ/OPENAI_API_KEY

OpenClaw continue de demander claude-opus-4-6 ; LiteLLM gère le routage.

Consulter l’utilisation

bash

# Key infocurl "http://localhost:4000/key/info" \  -H "Authorization: Bearer sk-litellm-key" # Spend logscurl "http://localhost:4000/spend/logs" \  -H "Authorization: Bearer $LITELLM_MASTER_KEY"

Remarques sur le comportement du proxy

Par défaut, LiteLLM s’exécute sur http://localhost:4000.
OpenClaw se connecte via le point de terminaison /v1 du proxy LiteLLM, compatible avec OpenAI.
La mise en forme des requêtes réservée aux points de terminaison OpenAI natifs ne s’applique pas lorsqu’une URL de base LiteLLM est configurée : aucun service_tier, aucun store Responses, aucune indication de cache des prompts et aucune mise en forme de la charge utile liée au niveau d’effort de raisonnement OpenAI.
Les en-têtes d’attribution OpenClaw masqués (originator, version, User-Agent) sont envoyés uniquement aux points de terminaison OpenAI natifs vérifiés ; ils ne sont donc pas injectés avec une URL de base LiteLLM personnalisée.

Contenu connexe

Documentation de LiteLLM

Documentation officielle de LiteLLM et référence de l’API.

Sélection des modèles

Présentation de tous les fournisseurs, des références de modèles et du comportement de basculement.

Configuration

Référence complète de la configuration.

Modèles

Comment choisir et configurer les modèles.

Was this useful?