Plus de 400 applications et sites web présentés comme des services d’IA ordinaires se sont révélés liés à des outils cachés permettant de générer des images et des vidéos deepfake à caractère sexuel et abusif, selon une enquête de WIRED. Ces services comprenaient des applications commercialisées pour les portraits d’animaux, l’apprentissage des langues et le coaching sportif par IA.

Un exemple, l’application de portraits d’animaux Viefur, permettait aux utilisateurs de transformer des photographies d’animaux en scènes stylisées. Des chercheurs ont découvert que, dans certaines conditions, l’application pouvait à la place charger une interface web proposant des modèles sexuels explicites, notamment des scénarios violents, ainsi que des outils permettant d’ajouter des photographies téléchargées à des contenus générés.

Les applications semblaient déterminer à distance si un utilisateur verrait les fonctionnalités bénignes annoncées ou l’interface explicite. Selon Paul Bouchaud, d’AI Forensics, cette décision pouvait prendre en compte des informations telles que la source de l’utilisateur, sa langue et un identifiant unique. Installer une application après avoir cliqué sur une publicité sur Facebook ou Instagram semblait être l’un des déclencheurs possibles de l’affichage du contenu caché.

Les chercheurs ont également constaté que les sites web associés pouvaient sembler vides tout en hébergeant la couche explicite utilisée par les applications. Leur code contenait des données de configuration reliant de nombreux domaines et applications, notamment des clés de chiffrement et des traceurs publicitaires. Maël Le Touz, chercheur en cybersécurité chez Infoblox, a identifié près de 500 domaines connectés qui utilisaient un code similaire et se renvoyaient les uns aux autres.

Le réseau a commencé à apparaître vers la fin de 2025 et s’est fortement développé au printemps 2026, selon l’enquête. À un moment donné, environ 30 applications et sites web associés étaient enregistrés chaque semaine. En septembre, 27 de ces applications étaient disponibles sur Google Play et avaient cumulé plus de 350 000 téléchargements, plusieurs étant classées comme adaptées à tous les âges.

DiffAI, l’une des applications les plus téléchargées, a été créée en décembre 2025 et a dépassé les 100 000 téléchargements sur Google Play. Un avis d’utilisateur affirmait qu’elle proposait des modèles représentant des abus sexuels sur des enfants et d’autres contenus pornographiques sans vérification de l’âge. Google a supprimé DiffAI avant que WIRED ne sollicite un commentaire et avait déjà retiré la plupart des applications identifiées par l’enquête.

Apple a supprimé 19 applications, dont Viefur, après que WIRED a communiqué des informations sur l’activité et les domaines associés. Le porte-parole d’Apple, Adam Dema, a déclaré que les applications avaient initialement respecté les règles de l’entreprise, mais que leurs développeurs avaient ensuite modifié les sites web fournissant leur contenu et remplacé les éléments approuvés par de la pornographie. Apple a décrit cette tactique comme une opération de type « appât et substitution » et a indiqué avoir suspendu des dizaines de milliers d’applications utilisant des méthodes similaires au cours de l’année précédente.

Les applications et les sites web semblaient être exploités par des développeurs sinophones. Les chercheurs ont cité un hébergement chinois, des commentaires en chinois dans le code et des filigranes de logiciels de montage en langue chinoise dans les vidéos promotionnelles. Les services utilisaient des politiques de confidentialité génériques, des comptes de messagerie gratuits et des noms de développeurs peu connus, tandis que les publicités diffusées sur les plateformes de Meta étaient souvent publiées sous des identités apparemment fausses et par des pages sans abonnés.

Depuis le début de 2026, les chercheurs ont trouvé des dizaines de milliers de publicités explicites de deepfakes liées au réseau sur les services de Meta. Les publicités comprenaient des contenus représentant des mineurs, ce qui a suscité des enquêtes de la part des autorités de régulation, et dirigeaient les utilisateurs vers des applications disponibles dans les boutiques d’Apple et de Google, où les paiements pouvaient être effectués par Apple Pay et Google Pay.

Une société enregistrée à Hong Kong, KeLing Technology Limited, apparaissait à plusieurs reprises dans l’infrastructure et les coordonnées du réseau. Après que WIRED a sollicité un commentaire auprès d’adresses électroniques associées à l’entreprise et à ses services, certaines références publiques à KeLing ont été supprimées ou modifiées. Meta a déclaré avoir interdit à l’entreprise de diffuser des publicités en 2025 après qu’elle n’a pas respecté une lettre de mise en demeure.

Après avoir reçu de WIRED une liste de plus de 400 domaines, Meta a déclaré avoir identifié plus de 3 000 publicités associées et en avoir déjà supprimé environ les deux tiers. L’entreprise a ensuite indiqué avoir pris des mesures contre 11 600 comptes publicitaires, plus de 4 700 pages professionnelles, 5 200 utilisateurs et 15 000 pages liées aux domaines, ainsi qu’avoir bloqué 209 applications publicitaires sur ses plateformes. Des applications et des publicités similaires continuaient d’être publiées à la conclusion de l’enquête.

Sources: WIRED.