Decision API
Strukturierte LLM-Entscheidungen über die Inference API, verarbeitet in der EU
Klassifizieren, prüfen und priorisieren Sie mit Sprachmodellen. Sie erhalten maschinenlesbares JSON über eine OpenAI-kompatible API. Die Verarbeitung erfolgt in der EU, DSGVO-konform mit AVV. Sie schließen den Vertrag mit einem deutschen Vertragspartner. LLMBase speichert keine Prompt- oder Response-Inhalte der Inference API.
So funktioniert's
Mit LLMBase wird jede Entscheidung zu einem einzelnen API-Aufruf, der strukturierte Daten zurückgibt und keinen Freitext.
- 1
Modell wählen. Für kurze, häufige Entscheidungen empfehlen wir
deepseek/deepseek-v4.1-flash. Modelle mitstructured_outputs(aktuelldeepseek/deepseek-v4.1-flash,moonshotai/kimi-k2.6,moonshotai/kimi-k2.7-code,moonshotai/kimi-k3,moonshotai/kimi-k3.1-pro,minimax/minimax-m3.1-flashundqwen/qwen3.8-27b) erzwingen ein striktes Schema. - 2
Ausgabeformat festlegen. Bei Modellen mit
json_modeerhalten Sie mitresponse_format: {"type": "json_object"}gültiges JSON. Mitresponse_format: {"type": "json_schema", ...}undstrict: truelegen Sie die Felder, Typen und erlaubten Werte genau fest. - 3
Request senden.
POST https://api.llmbase.ai/v1/chat/completionsmitAuthorization: Bearer $LLMBASE_API_KEY. Bestehender Code mit dem OpenAI-SDK funktioniert, sobald Sie diebaseURLaufhttps://api.llmbase.ai/v1setzen. - 4
Ergebnis weiterverarbeiten. Sie parsen das JSON und verwenden die Felder direkt für Routing, Workflows oder Datenbankeinträge.
Ihre Vorteile
Structured Outputs API mit echtem JSON Schema
Bei Modellen mit Structured Outputs geben Sie ein JSON Schema mit enum, required und additionalProperties: false vor. Die Antwort folgt diesem Schema, was nachträgliches Parsen von Freitext überflüssig macht.
Inference API mit Verarbeitung in der EU
Anfragen an die Inference API werden in EU-Rechenzentren verarbeitet, DSGVO-konform mit AVV. Für Teams, die eine KI API in der EU benötigen, ist das die Grundlage für den produktiven Einsatz.
Inference-Inhalte werden nicht gespeichert, kein Training
LLMBase speichert keine Prompt- oder Response-Inhalte der Inference API. Ihre Daten werden nicht zum Training von Modellen verwendet.
Deutscher Vertragspartner und AVV
Sie schließen den Vertrag mit einem deutschen Vertragspartner und erhalten einen Auftragsverarbeitungsvertrag (AVV).
OpenAI-kompatibel
Sie verwenden das OpenAI-SDK und ändern nur baseURL und API-Key. Neue Bibliotheken oder Request-Formate sind nicht nötig.
Offene Modelle, frei wählbar
Sie wählen das passende offene Modell für jede Aufgabe: ein schnelles Modell für kurze Entscheidungen im JSON-Modus oder ein Modell mit Structured Outputs für strikte Schemas. Für einen Modellwechsel ändern Sie nur einen Parameter.
Use Cases
Ticket-Routing
Eingehende Support-Tickets werden einer Kategorie zugeordnet und als dringend oder nicht dringend markiert. Eine kurze Begründung gibt es dazu. Ihr Helpdesk leitet das Ticket anhand der JSON-Felder automatisch an das richtige Team weiter.
Ja/Nein-Prüfungen
Sie prüfen zum Beispiel, ob eine E-Mail eine Kündigung enthält, ob ein Vertrag eine bestimmte Klausel hat oder ob eine Anfrage vollständig ist. Die Antwort ist ein Boolean mit Begründung, den Ihre Geschäftslogik direkt auswerten kann.
Lead-Scoring
Formulareinträge und Anfragen werden nach festen Kriterien bewertet, etwa Branche, Unternehmensgröße oder Kaufabsicht. Über enum legen Sie die erlaubten Stufen fest, zum Beispiel "hoch", "mittel" und "niedrig".
Content-Moderation
Nutzerbeiträge werden nach Ihren eigenen Richtlinien eingestuft. Ein Schema mit festen Kategorien und einem Feld für die Aktion (freigeben, prüfen, ablehnen) sorgt für einheitliche Ergebnisse.
Dokumentklassifizierung
Rechnungen, Verträge, Lieferscheine oder Anträge werden nach Dokumenttyp sortiert und mit Metadaten versehen. Diese LLM-Klassifizierung lässt sich direkt in Ihre Dokumenten-Pipeline einbinden.
Code-Beispiele
curl: Ticket-Entscheidung mit DeepSeek V4.1 Flash im JSON-Modus
curl https://api.llmbase.ai/v1/chat/completions \
-H "Authorization: Bearer $LLMBASE_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek/deepseek-v4.1-flash",
"response_format": { "type": "json_object" },
"messages": [
{
"role": "system",
"content": "Du klassifizierst Support-Tickets. Antworte ausschließlich mit einem JSON-Objekt mit den Feldern: kategorie (eine von: abrechnung, technik, konto, sonstiges), dringend (true oder false), begruendung (ein Satz)."
},
{
"role": "user",
"content": "Seit heute Morgen können sich keine unserer Mitarbeitenden mehr einloggen. Wir können nicht arbeiten."
}
]
}'Beispielhafter Inhalt von choices[0].message.content:
{
"kategorie": "konto",
"dringend": true,
"begruendung": "Alle Mitarbeitenden sind vom Login ausgeschlossen und können nicht arbeiten."
}Im JSON-Modus erhalten Sie gültiges JSON. Welche Felder es enthält, legen Sie über den Prompt fest. Wenn Felder und erlaubte Werte strikt erzwungen werden sollen, verwenden Sie json_schema wie im nächsten Beispiel.
TypeScript: Striktes JSON Schema mit DeepSeek V4.1 Flash
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.LLMBASE_API_KEY,
baseURL: "https://api.llmbase.ai/v1",
});
const completion = await client.chat.completions.create({
model: "deepseek/deepseek-v4.1-flash",
messages: [
{
role: "system",
content: "Du klassifizierst Support-Tickets nach Kategorie und Dringlichkeit.",
},
{
role: "user",
content: "Die letzte Rechnung wurde doppelt abgebucht. Bitte um Erstattung.",
},
],
response_format: {
type: "json_schema",
json_schema: {
name: "ticket_entscheidung",
strict: true,
schema: {
type: "object",
properties: {
kategorie: {
type: "string",
enum: ["abrechnung", "technik", "konto", "sonstiges"],
},
dringend: { type: "boolean" },
begruendung: { type: "string" },
},
required: ["kategorie", "dringend", "begruendung"],
additionalProperties: false,
},
},
},
});
const entscheidung = JSON.parse(completion.choices[0].message.content ?? "{}");
console.log(entscheidung.kategorie, entscheidung.dringend);Fähigkeiten eines Modells prüfen
curl "https://api.llmbase.ai/v1/models?metadata=true" \
-H "Authorization: Bearer $LLMBASE_API_KEY"Im Feld supported_features sehen Sie, ob ein Modell json_mode und/oder structured_outputs unterstützt.
Häufige Fragen
Was ist der Unterschied zwischen JSON-Modus und Structured Outputs?
Im JSON-Modus ({"type": "json_object"}) gibt ein Modell mit json_mode gültiges JSON zurück, die Struktur beschreiben Sie im Prompt. Bei Structured Outputs ({"type": "json_schema"} mit strict: true) geben Sie ein JSON Schema vor, und die Antwort folgt den definierten Feldern, Typen und enum-Werten.
Welche Modelle unterstützen strikte JSON Schemas?
Dazu gehören aktuell DeepSeek V4.1 Flash (deepseek/deepseek-v4.1-flash), Kimi K2.6 (moonshotai/kimi-k2.6), Kimi K2.7 Code (moonshotai/kimi-k2.7-code), Kimi K3 (moonshotai/kimi-k3), Kimi K3.1 Pro (moonshotai/kimi-k3.1-pro), MiniMax M3.1 Flash (minimax/minimax-m3.1-flash) und Qwen3.8 27B (qwen/qwen3.8-27b). Den aktuellen Stand für jedes Modell liefert GET /v1/models?metadata=true im Feld supported_features.
Was passiert, wenn ich ein JSON Schema an ein Modell ohne Structured Outputs sende?
Die API antwortet mit HTTP 400 und dem Fehlercode unsupported_request_features. Das Schema wird nie stillschweigend ignoriert, sodass Ihr Code nicht unbemerkt unstrukturierte Antworten erhält.
Kann ich die DeepSeek API über LLMBase nutzen?
Ja. DeepSeek V4.1 Flash steht unter der Modell-ID deepseek/deepseek-v4.1-flash zur Verfügung, mit JSON-Modus. Das Modell ist auf schnelle Antworten bei kurzen Requests ausgelegt und eignet sich deshalb für Klassifizierungen und Ja/Nein-Prüfungen.
Werden meine Daten gespeichert oder für Training verwendet?
Nein. LLMBase speichert keine Prompt- oder Response-Inhalte der Inference API, und Ihre Daten werden nicht zum Training verwendet.
Wo werden meine Anfragen verarbeitet?
Anfragen an die Inference API werden in EU-Rechenzentren verarbeitet. Ihr Vertragspartner sitzt in Deutschland, und Sie erhalten einen AVV.
Muss ich meinen bestehenden Code umschreiben?
Wenn Sie bereits das OpenAI-SDK verwenden, nicht. Sie setzen baseURL auf https://api.llmbase.ai/v1, verwenden Ihren LLMBase-API-Key und wählen eine Modell-ID.
Bereit für strukturierte Entscheidungen?
Mit LLMBase setzen Sie Ticket-Routing, Prüfungen und Klassifizierungen über eine OpenAI-kompatible API um. Sie erhalten JSON-Ausgabe, offene Modelle und Verarbeitung in der EU.