KI-Video-Tools ermöglichen Cybermobbing gegen Lehrkräfte in US-Schulen

Viggle AI als Werkzeug für manipulative Inhalte

Viggle AI, eine Plattform mit über 40 Millionen Nutzern, ermöglicht es, Gesichter beliebiger Personen in Videos einzufügen oder statische Bilder zu animierten Lip-Sync-Videos zu verarbeiten. Das Global Network on Extremism and Technology des King's College London bezeichnete die Technologie bereits als "neue Grenze bei der Erstellung spontaner extremistischer Propaganda".

Die Schüler nutzen diese Tools, um Lehrkräfte in kompromittierenden Situationen darzustellen oder sie mit kontroversen Figuren wie Jeffrey Epstein oder Benjamin Netanyahu zu vergleichen. Ein Video des Instagram-Accounts @thewyliefiles, das einen Schulleiter gemeinsam mit KI-generierten Versionen dieser Personen zeigt, erreichte über 107.000 Likes.

Extremistische Symbolik und Belästigung

Die Inhalte gehen über harmlose Streiche hinaus und verwenden Sprache aus extremistischen Online-Communities. "Looksmaxxing"-Begriffe aus der Manosphere sowie morphe extremistische Symbole wie Verweise auf "Agartha", ein zentrales Element der neo-nazistischen Okkultismus, werden regelmäßig eingesetzt.

Besonders problematisch: Die Videos führen zu realer Belästigung der Lehrkräfte. Der Betreiber des @crandall.kirkinator-Accounts musste seine Inhalte löschen, nachdem Lehrer "belästigt, spam-angerufen oder per E-Mail von zufälligen Personen kontaktiert" wurden.

Plattform-Reaktionen und Durchsetzung

Meta und TikTok bestätigten gegenüber Wired, dass sie Inhalte entfernt haben, die gegen ihre Richtlinien zu Hassrede und Belästigung verstoßen. Beide Plattformen implementierten automatische Erkennungssysteme für ähnliche Inhalte.

Die Wylie Independent School District warnte vor rechtlichen Konsequenzen für identifizierte Schüler und betonte, dass es etablierte Kanäle für legitime Beschwerden über Lehrkräfte gebe, die in keinem der dokumentierten Fälle genutzt wurden.

Auswirkungen für KI-Governance

Der Fall zeigt die Herausforderungen bei der Moderation KI-generierter Inhalte auf Social-Media-Plattformen. Für europäische Unternehmen und Regulierungsbehörden verdeutlicht er die Notwendigkeit proaktiver Governance-Mechanismen bei KI-Tools, die für Deepfake-Erstellung genutzt werden können.

Die Viggle AI-Plattform reagierte nicht auf Anfragen zur Kommentierung ihrer Rolle in diesen Vorfällen. Dies unterstreicht die Bedeutung klarer Verantwortlichkeiten für Anbieter von KI-Video-Tools, insbesondere im Kontext der kommenden EU-KI-Verordnung.

Der ursprüngliche Bericht stammt von Wired.