Klage gegen CrushAI: Meta will Werbung für entwürdigende KI-Tools stoppen
Meta hat ein Unternehmen verklagt, das sogenannte „Nudify“-Apps über Facebook und Instagram bewirbt. Diese Anwendungen erzeugen mithilfe künstlicher Intelligenz täuschend echte Nacktbilder realer Personen – ohne deren Zustimmung.
Der Technologiekonzern will mit der Klage gegen die Entwickler der CrushAI-Apps sämtliche Werbeanzeigen dauerhaft verhindern. Zuvor hatte Meta monatelang versucht, diese Inhalte zu blockieren, während die Anbieter regelmäßig neue Wege fanden, um Werberichtlinien zu umgehen.
„Unsere Klage unterstreicht, wie ernst wir dieses Problem nehmen und wie entschlossen wir unsere Plattform zu schützen“, betonte Meta in einem Blogbeitrag.
Kritiker sehen in Metas Maßnahmen nur den Anfang
Alexios Mantzarlis, Autor des Blogs Faked Up, berichtet von über 10.000 Anzeigen für „Nudify“-Apps auf Metas Plattformen. Obwohl er die Klage begrüßte, machte er deutlich, dass Meta noch nicht genug tue.
„Trotz der Ankündigung waren noch Dutzende CrushAI-Anzeigen aktiv – und hunderte von ähnlichen Diensten ebenfalls“, erklärte er.
Mantzarlis fordert konsequente öffentliche Kontrolle durch Medien und Forschende. Nur so könnten Plattformen zur Verantwortung gezogen und die Verbreitung solcher schädlichen Tools eingedämmt werden.
Meta erklärte: „Wir werden weiterhin alle notwendigen Maßnahmen ergreifen – auch gerichtliche – gegen jene, die unsere Plattform missbrauchen.“
Missbrauch trifft Kinder besonders hart – Experten fordern Verbot
Die weite Verbreitung generativer KI hat zu einem Anstieg von „Nudify“-Apps geführt. Bereits im April forderte die Kinderkommission für England gesetzliche Maßnahmen, um diese Programme vollständig zu verbieten.
Das Erstellen oder Besitzen von KI-generierten sexuellen Inhalten mit Minderjährigen ist illegal. Laut Matthew Sowemimo vom britischen Kinderschutzverein NSPCC nutzen Täter gezielt solche Apps zur Produktion strafbarer Inhalte.
„Der emotionale Schaden für Kinder ist oft verheerend“, sagte er. „Sie erleben Kontrollverlust, fühlen sich verletzt und entblößt.“
Sowemimo forderte von der Regierung ein umfassendes Verbot solcher Anwendungen sowie ein Werbeverbot im gesamten Vereinigten Königreich.
Meta teilte mit, Informationen über problematische Anbieter seit Ende März mit anderen Technologiekonzernen zu teilen.
„Wir haben bereits über 3.800 eindeutige URLs an Partner weitergegeben“, erklärte das Unternehmen. Meta räumte ein, dass viele Werber versuchen, Verbote zu umgehen, etwa durch ständig neue Domains.
Mit einer neuen Erkennungstechnologie will Meta künftig problematische Anzeigen identifizieren – auch ohne explizite Inhalte.
Deepfakes auf dem Vormarsch: KI-Missbrauch bedroht die öffentliche Kommunikation
„Nudify“-Apps sind Teil eines größeren Problems: Künstliche Intelligenz wird zunehmend genutzt, um manipulierte Inhalte zu erstellen – von Nacktbildern bis zu täuschend echten Deepfakes.
Ein aktueller Fall betraf ein manipuliertes Video, das scheinbar den brasilianischen Fußballstar Ronaldo Nazário zeigte. Metas Aufsichtsgremium kritisierte, dass der Beitrag nicht entfernt wurde.
Um gegen KI-Missbrauch vorzugehen, nutzt Meta bereits Gesichtserkennung und verlangt von politischen Werbetreibenden, den Einsatz von KI offen zu legen – insbesondere zur Verhinderung von Wahlmanipulation durch Deepfakes.
