ChatGPT Adult Mode: OpenAIs geplante Erwachsenen-Funktion weckt Datenschutzbedenken

Die Pläne für sexuelle Inhalte bei ChatGPT sind nicht neu - OpenAI deutete bereits vor zwei Jahren in einem offiziellen Dokument an, erwachsenen Nutzern die Generierung erotischer Inhalte zu ermöglichen. Der genaue Zeitplan bleibt jedoch unklar, wie Wired berichtet.

Bedenken von OpenAIs Beratungsgremium

In den vergangenen Monaten äußerte OpenAIs externes Expertengremium Bedenken über die Risiken einer solchen Funktion. Laut einem Bericht des Wall Street Journal befürchten die Berater problematische Szenarien wie einen "sexy suicide coach" - eine Kombination aus sexuellen Inhalten und potenziell schädlichen Ratschlägen.

Kate Devlin, Professorin für KI und Gesellschaft am King's College London, sieht in den Plänen einen Versuch der Monetarisierung: "Sie wollen etwas zu Geld machen, von dem sie wissen, dass die Leute es sowieso versuchen werden."

Datenschutzrisiken durch KI-Speicherfunktion

Besonders problematisch wird die Kombination aus ChatGPTs verbesserter Speicherfunktion und intimen Gesprächen. Die KI merkt sich bereits heute Nutzerpräferenzen - von veganen Essgewohnheiten bis zu Standortinformationen. Bei sexuellen Inhalten könnte ChatGPT detaillierte Fantasien und Vorlieben speichern und diese in zukünftige Antworten einfließen lassen.

Julie Carpenter, Expertin für Mensch-KI-Interaktion und Autorin von "The Naked Android", warnt: "Die Menschen müssen sich bewusst sein, dass ihre Daten überwacht werden. Sie teilen ihre intimsten sexuellen Gedanken, weil sie im Moment verloren sind."

Begrenzte Anonymität bei "temporären Chats"

OpenAI bietet bereits eine "Temporäre Chats"-Funktion an, die Gespräche nicht im Verlauf speichert oder zur Modellverbesserung nutzt. Diese Unterhaltungen sind jedoch nicht so vergänglich wie sie scheinen: Laut OpenAIs Website können Kopien bis zu 30 Tage lang "aus Sicherheitsgründen" aufbewahrt werden.

Zudem weist das Unternehmen darauf hin, dass die Datenspeicherung "durch jüngste rechtliche Entwicklungen" beeinflusst werden könnte - ein Hinweis auf mögliche staatliche Zugriffe.

Historische Sicherheitslücken als Warnung

Die Bedenken sind nicht unbegründet: OpenAI musste ChatGPT 2023 vorübergehend abschalten, als ein Bug Chat-Titel anderer Nutzer preisgab. Im vergangenen Jahr wurden ChatGPT-Gespräche unbeabsichtigt über Google-Suchergebnisse öffentlich zugänglich, weil Nutzer ihre Freigabeeinstellungen falsch verstanden hatten.

Für europäische Unternehmen und Entwickler, die KI-Lösungen evaluieren, verdeutlichen diese Vorfälle die Notwendigkeit robuster Datenschutzrichtlinien. Die DSGVO-Anforderungen in Europa könnten zusätzliche Compliance-Herausforderungen für solche intimen KI-Anwendungen schaffen.

Die geplante ChatGPT Adult Mode Funktion zeigt exemplarisch, wie neue KI-Fähigkeiten unerwartete Datenschutzrisiken schaffen können - ein Aspekt, den Unternehmen bei der KI-Implementierung zunehmend berücksichtigen müssen. OpenAI lehnte eine Stellungnahme zu den Plänen ab, wie Wired berichtet.