Laut einer Untersuchung von WIRED wurden mehr als 400 Apps und Websites, die als gewöhnliche KI-Dienste präsentiert wurden, mit versteckten Tools zur Erstellung sexuell missbräuchlicher Deepfake-Bilder und -Videos in Verbindung gebracht. Zu den Diensten gehörten Apps, die für Tierporträts, das Erlernen von Sprachen und KI-Fitness-Coaching vermarktet wurden.
Ein Beispiel ist die Tierporträt-App Viefur, mit der Nutzer Tierfotos in stilisierte Szenen verwandeln konnten. Forscher stellten fest, dass die App unter bestimmten Bedingungen stattdessen eine Weboberfläche laden konnte, die explizite sexuelle Vorlagen, darunter gewalttätige Szenarien, sowie Tools zum Hinzufügen hochgeladener Fotos zu den generierten Inhalten anbot.
Die Apps schienen aus der Ferne zu bestimmen, ob ein Nutzer die beworbenen harmlosen Funktionen oder die explizite Oberfläche sehen würde. Laut Paul Bouchaud von AI Forensics konnte die Entscheidung Informationen wie die Herkunft des Nutzers, seine Sprache und eine eindeutige Kennung berücksichtigen. Die Installation einer App nach dem Anklicken einer Anzeige auf Facebook oder Instagram schien ein möglicher Auslöser für die Anzeige der versteckten Inhalte zu sein.
Die Forscher stellten außerdem fest, dass zugehörige Websites leer erscheinen konnten, während sie weiterhin die von den Apps verwendete explizite Ebene hosteten. Ihr Code enthielt Konfigurationsdaten, die zahlreiche Domains und Anwendungen miteinander verknüpften, darunter Verschlüsselungsschlüssel und Werbe-Tracker. Maël Le Touz, ein Bedrohungsforscher bei Infoblox, identifizierte fast 500 verbundene Domains, die ähnlichen Code verwendeten und aufeinander verwiesen.
Laut der Untersuchung tauchte das Netzwerk gegen Ende des Jahres 2025 auf und expandierte im Frühjahr 2026 stark. Zeitweise wurden etwa 30 verwandte Apps und Websites pro Woche registriert. Im September waren 27 der Apps bei Google Play verfügbar und hatten mehr als 350.000 Downloads verzeichnet; mehrere waren als für alle Altersgruppen geeignet eingestuft.
DiffAI, eine der am häufigsten heruntergeladenen Apps, wurde im Dezember 2025 erstellt und überschritt 100.000 Downloads bei Google Play. In einer Nutzerbewertung wurde behauptet, dass die App Vorlagen für Material über sexuellen Kindesmissbrauch und andere Pornografie ohne Altersverifizierung anbot. Google entfernte DiffAI, bevor WIRED um eine Stellungnahme bat, und hatte bereits die meisten von der Untersuchung identifizierten Apps entfernt.
Apple entfernte 19 Apps, darunter Viefur, nachdem WIRED Informationen über die Aktivitäten und die zugehörigen Domains geteilt hatte. Der Apple-Sprecher Adam Dema sagte, die Apps hätten zunächst den Regeln des Unternehmens entsprochen, doch ihre Entwickler hätten später die Websites geändert, die ihre Inhalte lieferten, und das genehmigte Material durch Pornografie ersetzt. Apple bezeichnete die Taktik als Täuschung durch Köder und Wechsel und erklärte, im vergangenen Jahr Zehntausende Apps gesperrt zu haben, die ähnliche Methoden nutzten.
Die Apps und Websites schienen von chinesischsprachigen Entwicklern betrieben zu werden. Die Forscher verwiesen auf chinesisches Hosting, chinesische Kommentare im Code und Wasserzeichen chinesischsprachiger Bearbeitungssoftware in Werbevideos. Die Dienste verwendeten allgemeine Datenschutzrichtlinien, kostenlose E-Mail-Konten und wenig bekannte Entwicklernamen, während Anzeigen auf den Plattformen von Meta häufig unter offenbar falschen Identitäten und von Seiten ohne Follower geschaltet wurden.
Seit Beginn des Jahres 2026 fanden Forscher auf den Diensten von Meta Zehntausende explizite Deepfake-Anzeigen, die mit dem Netzwerk verbunden waren. Die Anzeigen enthielten Inhalte mit Minderjährigen, was Untersuchungen durch Aufsichtsbehörden auslöste, und leiteten Nutzer zu Apps in den Stores von Apple und Google weiter, wo Zahlungen über Apple Pay und Google Pay vorgenommen werden konnten.
Ein in Hongkong registriertes Unternehmen, KeLing Technology Limited, tauchte wiederholt in der Infrastruktur und den Kontaktinformationen des Netzwerks auf. Nachdem WIRED per E-Mail-Adressen, die mit dem Unternehmen und seinen Diensten verbunden waren, um eine Stellungnahme gebeten hatte, wurden einige öffentliche Verweise auf KeLing entfernt oder geändert. Meta erklärte, das Unternehmen 2025 von der Werbung ausgeschlossen zu haben, nachdem es einem Unterlassungsschreiben nicht nachgekommen war.
Nachdem Meta von WIRED eine Liste mit mehr als 400 Domains erhalten hatte, erklärte das Unternehmen, mehr als 3.000 zugehörige Anzeigen identifiziert und bereits etwa zwei Drittel davon entfernt zu haben. Später berichtete das Unternehmen, gegen 11.600 Werbekonten, mehr als 4.700 Unternehmensseiten, 5.200 Nutzer und 15.000 mit den Domains verbundene Seiten vorgegangen zu sein und außerdem 209 Apps daran gehindert zu haben, auf seinen Plattformen zu werben. Ähnliche Apps und Anzeigen wurden noch veröffentlicht, als die Untersuchung abgeschlossen wurde.
Quellen: WIRED.