Guides

Europäische OpenAI-kompatible LLM-API mit AVV

Wann eine OpenAI-kompatible LLM-API in der EU passt: Base-URL, Datenort, AVV, Speicherung und Abrechnung — eine praktische Checkliste.

Europäische OpenAI-kompatible LLM-API mit AVV

Kurzantwort

Eine OpenAI-kompatible API spart Umbau — aber Kompatibilität allein sagt nichts über Datenort, AVV oder Speicherung. Teams mit AVV-Bedarf prüfen Base-URL und die Vertragskette, bevor sie Produktionstraffic umleiten.

Wann ein Drop-in reicht — und wann EU-Inference die harte Anforderung ist

Ein Drop-in (gleiche SDK-Calls, neue Base-URL) reicht, wenn Sie vor allem Tooling-Kompatibilität brauchen. EU-Inference wird zur harten Anforderung, wenn personenbezogene oder besonders schützenswerte Daten in Prompts landen und Datenschutz Ort, Vertragspartner und Speicherung vorgibt.

Checkliste Base-URL / Chat Completions

  1. Base-URL und Auth-Header dokumentiert?
  2. /v1/chat/completions (und ggf. Streaming) gegen Ihren Client getestet?
  3. Modell-IDs aus dem aktuellen Katalog, nicht aus alten Screenshots?
  4. Tool-Calling / Structured Output: Verhalten im Loop geprüft (nicht nur 200 OK)?
  5. Leere oder unvollständige Antworten abgefangen?
  6. AVV-Weg, Datenort der Inferenz, Training und Speicherung schriftlich geklärt?

Technische Migrationsschritte: OpenAI-kompatible API-Migration mit dem OpenAI SDK.

LLMBase im Überblick

KriteriumLLMBase
APIOpenAI-kompatibel, Base-URL https://api.llmbase.ai/v1.
Inferenz-OrtAlle Modelle der Inference API in EU-Rechenzentren. Länder: Deutschland, Finnland, Frankreich.
AVVDirekt im Dashboard abschließbar. → AVV im Dashboard abschließen
TrainingKein Training mit Ihren Daten.
SpeicherungLLMBase speichert keine Prompt- oder Response-Inhalte der Inference API.
TelemetrieKeine Prompts oder Antworten in der LLMBase-Telemetrie.
VertragDeutsches Unternehmen; deutscher Vertragspartner, EU-Recht.
AbrechnungPay-per-use, keine monatlichen Gebühren. Prepaid-Guthaben in USD.
RechenzentrenISO-27001-Partner-Rechenzentren.
ModelleLive-Katalog auf LLMBase Inference API. 9 Open-Weight-Modelle.

Umstieg von einem anderen Anbieter

Base-URL und API-Key tauschen, Modell-ID aus dem live Katalog wählen, bestehende SDK-Clients behalten. Kosten schätzen Sie auf der Preisseite.

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.LLMBASE_API_KEY,
  baseURL: "https://api.llmbase.ai/v1",
});

const response = await client.chat.completions.create({
  model: process.env.LLMBASE_MODEL_ID,
  messages: [{ role: "user", content: "Hallo!" }],
});

console.log(response.choices[0]?.message?.content);

FAQ

Muss ich meinen Code umbauen?
In der Regel nicht. OpenAI-kompatible API unter https://api.llmbase.ai/v1 — Base-URL tauschen und eines der 9 Open-Weight-Modelle aus dem live Katalog wählen.

Wo laufen die Modelle?
In EU-Rechenzentren; Länder der Inferenz: Deutschland, Finnland, Frankreich. ISO-27001-Partner-Rechenzentren.

Gibt es einen AVV?
Ja — im Dashboard. AVV im Dashboard abschließen

Werden Prompts gespeichert oder trainiert?
Kein Training mit Ihren Daten. LLMBase speichert keine Prompt- oder Response-Inhalte der Inference API.

Weiterlesen

LLMBase testen

Inference starten

Alle Guides