Apple et Google doivent-ils être sanctionnés quand une application de nudification passe leurs contrôles ?

Le contexte

Selon une enquête du magazine américain Wired, menée avec les chercheurs de l'association AI Forensics, un réseau de plus de 400 applications et domaines cachait des outils de deepfake sexuel derrière des façades anodines, comme des éditeurs de photos pour animaux de compagnie. Ces applications ont été téléchargées des centaines de milliers de fois sur l'App Store d'Apple et sur Google Play.

Le procédé déjouait les contrôles des deux boutiques. Une fois installée, l'application transmettait à un serveur distant la langue, la localisation et un identifiant de l'utilisateur. En fonction de ces données, le serveur affichait une version inoffensive ou une interface cachée permettant d'insérer la photo d'une personne réelle dans des scènes violentes. D'après l'enquête, l'un des principaux déclencheurs semblait être un téléchargement après un clic sur une publicité diffusée par Meta.

Apple a retiré 19 applications. L'entreprise assure qu'elles respectaient ses règles au moment de l'examen et que leurs développeurs ont ensuite modifié le site d'où elles tiraient leur contenu. Google a retiré la majorité des applications signalées avant même d'être contacté. Meta a pris des mesures contre plus de 11 600 comptes publicitaires liés au réseau. Selon Phonandroid, certaines applications restaient pourtant disponibles le 3 novembre.

Wired attribue le réseau à des développeurs chinois et à une société enregistrée à Hong Kong, KeLing Technology Limited, qui a effacé ses liens publics vers ces outils après avoir été contactée, selon Phonandroid. Dans l'Union européenne, ce type de programme est interdit, et les plateformes concernées ont jusqu'à décembre 2026 pour les retirer sous peine d'amende, indique Phonandroid.

Les arguments pour

• Les boutiques ont servi de vitrine à ces applis Ces applications ont été téléchargées des centaines de milliers de fois depuis l'App Store et Google Play. Une sanction ferait payer à Apple et Google le prix d'un filtre qui a laissé passer des outils que Phonandroid dit interdits dans l'Union européenne.
• Un examen avant publication ne protège de rien si le contenu change ensuite Apple dit vérifier chaque application avant de la publier, mais ici le serveur choisissait la version à afficher après l'installation. Sans risque d'amende, les boutiques n'ont guère de raison de surveiller ce que deviennent les applis une fois validées.

Les arguments contre

• Les éditeurs ont trompé les contrôles de façon organisée Selon Apple, les applications étaient conformes lors de l'examen et leurs développeurs ont modifié ensuite le site qui fournissait le contenu. Paul Bouchaud, chercheur principal d'AI Forensics, décrit une opération organisée et à vocation commerciale.
• Google a retiré la plupart des applis signalées sans attendre d'être contacté Google a supprimé la plupart des applications signalées avant même d'être contacté par Wired, et Apple en a retiré 19. Punir des entreprises qui réagissent risque de les inciter à moins coopérer avec les chercheurs.
• La sanction devrait viser l'éditeur et les publicités qui attirent les utilisateurs D'après l'enquête, l'un des principaux déclencheurs semblait être un clic sur une publicité Meta, et Meta a pris des mesures contre plus de 11 600 comptes publicitaires liés au réseau. L'éditeur et le circuit publicitaire ont amené les utilisateurs, la boutique n'a fait qu'héberger l'application.

Sources

• Des centaines d'applications IA dissimulaient des outils de deepfakes sexuels, Génération NT (2026)
• 400 applications de « nudification » découvertes sur le Play Store et l'App Store, Phonandroid (2026)