
Kurzantwort
Eine OpenAI-kompatible API spart Umbau — aber Kompatibilität allein sagt nichts über Datenort, AVV oder Speicherung. Teams mit AVV-Bedarf prüfen Base-URL und die Vertragskette, bevor sie Produktionstraffic umleiten.
Wann ein Drop-in reicht — und wann EU-Inference die harte Anforderung ist
Ein Drop-in (gleiche SDK-Calls, neue Base-URL) reicht, wenn Sie vor allem Tooling-Kompatibilität brauchen. EU-Inference wird zur harten Anforderung, wenn personenbezogene oder besonders schützenswerte Daten in Prompts landen und Datenschutz Ort, Vertragspartner und Speicherung vorgibt.
Checkliste Base-URL / Chat Completions
- Base-URL und Auth-Header dokumentiert?
/v1/chat/completions(und ggf. Streaming) gegen Ihren Client getestet?- Modell-IDs aus dem aktuellen Katalog, nicht aus alten Screenshots?
- Tool-Calling / Structured Output: Verhalten im Loop geprüft (nicht nur 200 OK)?
- Leere oder unvollständige Antworten abgefangen?
- AVV-Weg, Datenort der Inferenz, Training und Speicherung schriftlich geklärt?
Technische Migrationsschritte: OpenAI-kompatible API-Migration mit dem OpenAI SDK.
LLMBase im Überblick
| Kriterium | LLMBase |
|---|---|
| API | OpenAI-kompatibel, Base-URL https://api.llmbase.ai/v1. |
| Inferenz-Ort | Alle Modelle der Inference API in EU-Rechenzentren. Länder: Deutschland, Finnland, Frankreich. |
| AVV | Direkt im Dashboard abschließbar. → AVV im Dashboard abschließen |
| Training | Kein Training mit Ihren Daten. |
| Speicherung | LLMBase speichert keine Prompt- oder Response-Inhalte der Inference API. |
| Telemetrie | Keine Prompts oder Antworten in der LLMBase-Telemetrie. |
| Vertrag | Deutsches Unternehmen; deutscher Vertragspartner, EU-Recht. |
| Abrechnung | Pay-per-use, keine monatlichen Gebühren. Prepaid-Guthaben in USD. |
| Rechenzentren | ISO-27001-Partner-Rechenzentren. |
| Modelle | Live-Katalog auf LLMBase Inference API. 9 Open-Weight-Modelle. |
Umstieg von einem anderen Anbieter
Base-URL und API-Key tauschen, Modell-ID aus dem live Katalog wählen, bestehende SDK-Clients behalten. Kosten schätzen Sie auf der Preisseite.
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.LLMBASE_API_KEY,
baseURL: "https://api.llmbase.ai/v1",
});
const response = await client.chat.completions.create({
model: process.env.LLMBASE_MODEL_ID,
messages: [{ role: "user", content: "Hallo!" }],
});
console.log(response.choices[0]?.message?.content);
FAQ
Muss ich meinen Code umbauen?
In der Regel nicht. OpenAI-kompatible API unter https://api.llmbase.ai/v1 — Base-URL tauschen und eines der 9 Open-Weight-Modelle aus dem live Katalog wählen.
Wo laufen die Modelle?
In EU-Rechenzentren; Länder der Inferenz: Deutschland, Finnland, Frankreich. ISO-27001-Partner-Rechenzentren.
Gibt es einen AVV?
Ja — im Dashboard. AVV im Dashboard abschließen
Werden Prompts gespeichert oder trainiert?
Kein Training mit Ihren Daten. LLMBase speichert keine Prompt- oder Response-Inhalte der Inference API.
Weiterlesen
- LLMBase Inference API
- OpenAI-kompatible API-Migration: Endpunkte, Modelle und SDK-Setup
- LLMBase Preise
- AVV im Dashboard abschließen