Providers

Groq

Groq bietet ultraschnelle Inferenz für Modelle mit offenen Gewichtungen (Llama, Gemma, Kimi, Qwen, GPT OSS und weitere) mithilfe eigens entwickelter LPU-Hardware. Das Groq-Plugin registriert sowohl einen OpenAI-kompatiblen Chat-Provider als auch einen Provider für das Medienverständnis von Audioinhalten.

Eigenschaft Wert
Provider-ID groq
Plugin offizielles externes Paket
Umgebungsvariable für Authentifizierung GROQ_API_KEY
API OpenAI-kompatibel (openai-completions)
Basis-URL https://api.groq.com/openai/v1
Audiotranskription whisper-large-v3-turbo (Standard)
Empfohlenes Standard-Chatmodell groq/llama-3.3-70b-versatile

Plugin installieren

Installieren Sie das offizielle Plugin und starten Sie anschließend den Gateway neu:

bash
openclaw plugins install @openclaw/groq-provideropenclaw gateway restart

Erste Schritte

  • API-Schlüssel abrufen

    Erstellen Sie unter console.groq.com/keys einen API-Schlüssel.

  • API-Schlüssel festlegen

    bash
    export GROQ_API_KEY=gsk_...
  • Standardmodell festlegen

    json5
    {  agents: {    defaults: {      model: { primary: "groq/llama-3.3-70b-versatile" },    },  },}
  • Erreichbarkeit des Katalogs überprüfen

    bash
    openclaw models list --provider groq
  • Beispiel für eine Konfigurationsdatei

    json5
    {  env: { GROQ_API_KEY: "gsk_..." },  agents: {    defaults: {      model: { primary: "groq/llama-3.3-70b-versatile" },    },  },}

    Integrierter Katalog

    OpenClaw enthält einen manifestgestützten Groq-Katalog mit Einträgen für Modelle mit und ohne Schlussfolgerungsfunktion. Führen Sie openclaw models list --provider groq aus, um die statischen Einträge Ihrer installierten Version anzuzeigen, oder prüfen Sie unter console.groq.com/docs/models die maßgebliche Modellliste von Groq.

    Modellreferenz Name Schlussfolgerung Eingabe Kontext
    groq/llama-3.3-70b-versatile Llama 3.3 70B Versatile nein Text 131,072
    groq/llama-3.1-8b-instant Llama 3.1 8B Instant nein Text 131,072
    groq/meta-llama/llama-4-scout-17b-16e-instruct Llama 4 Scout 17B nein Text + Bild 131,072
    groq/openai/gpt-oss-120b GPT OSS 120B ja Text 131,072
    groq/openai/gpt-oss-20b GPT OSS 20B ja Text 131,072
    groq/openai/gpt-oss-safeguard-20b Safety GPT OSS 20B ja Text 131,072
    groq/qwen/qwen3-32b Qwen3 32B ja Text 131,072
    groq/groq/compound Compound ja Text 131,072
    groq/groq/compound-mini Compound Mini ja Text 131,072

    Schlussfolgerungsmodelle

    Groq-Schlussfolgerungsmodelle (reasoning: true in der obigen Tabelle) ordnen die gemeinsamen /think-Stufen von OpenClaw den reasoning_effort-Werten low, medium oder high zu. Bei /think off oder /think none wird reasoning_effort in der Anfrage weggelassen, statt einen deaktivierten Wert zu senden.

    Weitere Informationen zu den gemeinsamen /think-Stufen und dazu, wie OpenClaw sie für jeden Provider übersetzt, finden Sie unter Denkmodi.

    Audiotranskription

    Das Groq-Plugin registriert außerdem einen Provider für das Medienverständnis von Audioinhalten, damit Sprachnachrichten über die gemeinsame Oberfläche tools.media.audio transkribiert werden können.

    Eigenschaft Wert
    Gemeinsamer Konfigurationspfad tools.media.audio
    Standard-Basis-URL https://api.groq.com/openai/v1
    Standardmodell whisper-large-v3-turbo
    Automatische Priorität 20
    API-Endpunkt OpenAI-kompatibel: /audio/transcriptions

    So legen Sie Groq als standardmäßiges Audio-Backend fest:

    json5
    {  tools: {    media: {      audio: {        models: [{ provider: "groq" }],      },    },  },}
    Verfügbarkeit der Umgebung für den Daemon

    Wenn der Gateway als verwalteter Dienst ausgeführt wird (launchd, systemd, Docker), muss GROQ_API_KEY für diesen Prozess sichtbar sein – nicht nur für Ihre interaktive Shell.

    Benutzerdefinierte Groq-Modell-IDs

    OpenClaw akzeptiert zur Laufzeit jede Groq-Modell-ID. Verwenden Sie die von Groq angezeigte exakte ID und stellen Sie ihr groq/ voran. Der statische Katalog deckt die gängigen Fälle ab; nicht katalogisierte IDs verwenden die standardmäßige OpenAI-kompatible Vorlage.

    json5
    {  agents: {    defaults: {      model: { primary: "groq/<your-model-id>" },    },  },}

    Verwandte Themen

    Was this useful?
    On this page

    On this page