KI-Coding-Tools von Lovable, Replit und Base44 legen Tausende sensible Daten offen

Umfang der Datenlecks bei KI-generierten Apps

Sicherheitsforscher Dor Zvi und sein Team bei RedAccess identifizierten etwa 2.000 Web-Apps, die bei genauerer Prüfung private Daten preisgaben. Die exponierten Informationen umfassten medizinische Daten, Finanzunterlagen, Unternehmenspräsentationen und detaillierte Chatbot-Protokolle mit Kundengesprächen. Viele dieser Apps waren für jeden zugänglich, der lediglich die entsprechende URL in einen Browser eingab.

Die Forscher fanden unter anderem Krankenhauspläne mit personenbezogenen Daten von Ärzten, detaillierte Werbeausgaben von Unternehmen, Go-to-Market-Strategiepräsentationen und vollständige Chatbot-Logs mit Kundennamen und Kontaktdaten. In einigen Fällen hätten die offenen Apps sogar administrative Zugriffe auf Systeme ermöglicht.

Reaktionen der KI-Coding-Plattformen

Die betroffenen Unternehmen reagierten unterschiedlich auf die Vorwürfe. Replit-CEO Amjad Masad argumentierte, dass öffentliche Apps standardmäßig im Internet zugänglich seien und Nutzer die Privatsphäre-Einstellungen mit einem Klick ändern könnten. Lovable erklärte, Berichte über exponierte Daten ernst zu nehmen, betonte aber, dass die App-Konfiguration in der Verantwortung der Ersteller liege.

Base44s Mutterkonzern Wix wies darauf hin, dass die Plattform robuste Sicherheitstools bereitstelle, deren Deaktivierung jedoch eine bewusste Nutzerentscheidung darstelle. Das Unternehmen bezweifelte zudem die Echtheit der gefundenen Daten ohne verifizierte Beispiele.

Implikationen für europäische Unternehmen

Die Erkenntnisse haben besondere Relevanz für europäische Organisationen unter der DSGVO. KI-Coding-Tools demokratisieren die App-Entwicklung, schaffen aber neue Risiken für Datenschutz und Compliance. Unternehmen, die solche Tools einsetzen, müssen sicherstellen, dass auch nicht-technische Mitarbeiter die Sicherheitsimplikationen verstehen.

Sicherheitsexperte Joel Margolis vergleicht das Problem mit früheren Amazon S3-Datenlecks, bei denen verwirrende Sicherheitseinstellungen zu massiven Datenexpositionen führten. Die aktuelle Situation zeigt, dass KI-Tools zwar das tun, was von ihnen verlangt wird, aber ohne explizite Sicherheitsanweisungen keine proaktiven Schutzmaßnahmen implementieren.

Ausblick für KI-gestützte Entwicklung

Die RedAccess-Untersuchung dokumentiert nur Apps, die auf den Domains der KI-Anbieter gehostet werden. Zvi schätzt, dass Tausende weitere gefährdete Apps auf eigenen Nutzerdomains existieren. Für Entwicklungsteams und IT-Verantwortliche wird es entscheidend, Sicherheitsrichtlinien für KI-Coding-Tools zu etablieren und Schulungen für deren sichere Nutzung bereitzustellen.

Diese Erkenntnisse stammen aus einer Analyse von Wired, die die systematischen Sicherheitslücken in aktuellen KI-Coding-Plattformen dokumentiert.