Apple soumet les applis d’IA à ses règles contre les faux nus

Depuis le 16 octobre, une application iPhone qui fabrique des images par intelligence artificielle est tenue aux mêmes obligations de modération qu’un réseau social : filtrer les contenus répréhensibles, permettre de les signaler, bloquer les utilisateurs abusifs, publier un moyen de contact. Et Apple nomme désormais ce qu’elle doit empêcher : les images intimes non consenties, y compris celles « générées à l’aide d’outils d’IA ». Apple a publié le même jour deux autres changements : une règle à part contre les applications qui changent de nature une fois acceptées, et, pour les cas les plus graves, le blocage de la distribution hors App Store, possible en Europe.

Des applications interdites, mais toujours en rayon

Les applications de « nudification », qui transforment la photo d’une personne habillée en image où elle apparaît nue, n’étaient pas autorisées jusqu’ici. Apple le rappelle lui-même dans son billet aux développeurs : « les contenus pornographiques sont interdits depuis longtemps sur l’App Store, ce qui inclut les apps qui génèrent de la nudité ou des images sexuellement explicites, comme les apps de "nudification" qui créent des images sexuellement explicites de personnes réelles sans leur consentement ». La règle 1.1.4, qui proscrit le contenu « à caractère ouvertement sexuel ou pornographique », figure déjà dans la version française des règles.

L’interdiction n’a pas suffi. Le 27 janvier, l’ONG américaine Tech Transparency Project (TTP) a recensé 47 applications capables de dénuder des femmes sur l’App Store et 55 sur Google Play, 38 étant présentes dans les deux boutiques. Ses chercheurs les ont essayées avec des photos de femmes habillées, elles-mêmes générées par IA, en se limitant aux fonctions gratuites. Selon les données du cabinet AppMagic citées par l’ONG, ces applications ont été téléchargées plus de 705 millions de fois dans le monde et ont rapporté 117 millions de dollars, Apple et Google prélevant leur commission sur les achats intégrés. Après ce rapport, Apple en a retiré 28, selon la chaîne CNBC citée par TTP. Le 15 avril, la même ONG a lancé sur l’App Store de simples recherches comme « nudify » ou « undress » : sur 46 applications proposées, 18 pouvaient dénuder des femmes. Elle constatait aussi que les moteurs de recherche et la publicité des deux boutiques y menaient parfois directement.

Le 16 juillet, le procureur de la ville de San Francisco, David Chiu, a adressé des mises en demeure à Apple et à Google, visant huit applications de l’App Store et cinq de Google Play, selon Wired, cité par MacRumors et par le blog de Michael Tsai. Apple a répondu avoir retiré trois des applications nommées, engagé la résiliation des comptes de leurs développeurs et contacté les éditeurs de quatre autres.

Règle 1.2 : le texte d’avant, le texte d’après

La règle 1.2 encadre les contenus que produisent les utilisateurs. La version française, qu’Apple n’a pas encore mise à jour, permet de la comparer avec la nouvelle version anglaise : elle reflète un état antérieur des règles, sans qu’Apple précise lequel. La liste officielle des modifications confirme que la règle a été « clarifiée » sur deux points : les applications concernées, et le risque de violation du code de conduite des développeurs.

Le changement de fond tient en une ligne : rien, dans l’ancien texte, ne rattachait explicitement à ces obligations une application de génération d’images, où l’utilisateur ne publie rien pour les autres. C’est désormais écrit. Le reste est plus prudent qu’il n’y paraît. La formule la plus forte, des contenus que les applications doivent « prévenir et retirer de manière proactive », figure dans le billet d’Apple, pas dans la règle, qui garde sa liste de quatre outils sans dire quel filtre suffit.

Le renvoi au code de conduite (règle 5.6) vise en revanche l’éditeur dès le simple défaut de garde-fous, alors que l’ancien texte réservait l’exclusion du programme développeur aux comportements « particulièrement graves ou répétés ». Cette règle 5.6 prévoit qu’un comportement manipulateur ou trompeur répété « entraînera » l’exclusion du programme développeur d’Apple, c’est-à-dire la perte du compte qui permet de publier toutes ses applications.

Règle 2.5.19 : l’application qui change de visage après validation

Le second changement vise une tactique que les anglophones appellent « bait-and-switch » (l’appât et la substitution) : une application se présente à l’examen d’Apple sous un jour anodin, puis révèle, une fois acceptée, une fonction interdite. Apple cite nommément la nudification comme exemple dans son billet. La nouvelle règle 2.5.19 dit : « N’incluez aucune fonctionnalité cachée, dormante ou non documentée dans votre app ; ses fonctions doivent être claires pour les utilisateurs finaux et pour App Review. Tenter de dissimuler des fonctionnalités non documentées dans le binaire de votre app, par exemple par obfuscation du code ou d’autres méthodes, est un motif de retrait de votre app de l’App Store et de résiliation de votre compte de développeur. » L’obfuscation consiste à rendre un programme volontairement illisible pour masquer ce qu’il fait.

Apple présente cette règle comme la clarification d’une politique ancienne, et c’en est une en partie. La première phrase existait déjà, en substance, en tête de la règle 2.3.1, comme le montre la version française : « N’incluez pas de fonctionnalités masquées, inactives ou non documentées dans votre app. » Ce qui est nouveau, c’est la mention du code dissimulé et une sanction attachée à cette faute précise. Le billet d’Apple donne un exemple : ajouter des fonctions qui ne figuraient pas dans la version soumise à l’examen.

En Europe, ce qui suit l’application hors de l’App Store

En vertu du règlement européen sur les marchés numériques (DMA), un iPhone peut, dans l’Union européenne, installer des applications depuis une boutique concurrente ou directement depuis le site d’un développeur. Ces applications doivent être « notarisées » : selon Apple, il s’agit d’un « examen de base » qui vérifie qu’elles sont exemptes de logiciels malveillants connus, qu’elles « fonctionnent comme promis » et qu’elles n’exposent pas leurs utilisateurs à une « fraude flagrante ». Dans les règles de l’App Store, seules celles marquées d’une clé s’appliquent à cette notarisation.

La règle 2.5.19 porte cette clé, comme l’ancienne 2.3.1(a) dont elle reprend l’interdiction : une application qui cache des fonctions peut donc être bloquée hors App Store aussi, ce qui n’est pas nouveau. La section 5, elle, change de portée. L’ancienne version prévoyait seulement que, dans les cas extrêmes d’applications qui facilitent la traite d’êtres humains ou l’exploitation d’enfants, « les autorités compétentes seront informées ». La nouvelle ajoute que ces applications « seront retirées de l’App Store et bloquées de la distribution alternative ».

En revanche, ni l’interdiction de la pornographie (1.1.4) ni les nouvelles obligations de modération (1.2) ne portent la clé. Une application de nudification visant des adultes, refusée sur l’App Store à ce titre, n’est donc pas bloquée hors de la boutique par ces deux règles. Le code de conduite (5.6) s’applique, lui, à la notarisation, mais Apple ne dit pas si un manquement à la règle 1.2, requalifié en violation de ce code, couperait un développeur de toute distribution. Google prépare de son côté l’identification obligatoire des développeurs Android, y compris pour les applications installées hors du Play Store.

Ni méthode, ni bilan, ni délai

Apple ne décrit aucun moyen de contrôle nouveau : ni tests des applications de création par IA, ni détection automatique, ni audit des filtres. Les seuls chiffres du billet ne portent pas sur la nudification : « l’an dernier », Apple dit avoir empêché plus de 150 000 applications présentant des problèmes de sécurité d’atteindre ses clients et résilié plus de 193 000 comptes de développeurs pour fraude et abus, sans préciser de quelle année il s’agit. Aucun délai n’est annoncé pour mettre en conformité les applications déjà en ligne. Les traductions officielles, dont la française, arriveront « dans un délai d’un mois » : d’ici là, un développeur francophone lit sur le site d’Apple un texte qui ne mentionne ni l’IA ni les images intimes non consenties.

Les autres retouches du 16 octobre sont techniques : une règle 2.3.14 sur les visuels promotionnels des fiches de l’App Store, et une réécriture de la règle 3.1.1(a) sur les liens vers des moyens de paiement externes, qui absorbe le cas des services de musique en streaming.

Pour une victime, rien ne change dans les recours : une application suspecte se signale à Apple sur reportaproblem.apple.com, comme l’indique MacRumors, et les démarches pour faire retirer une image intime diffusée sans consentement restent celles décrites dans notre article sur l’affaire NudeLeaksTeens. Ce que la révision change, c’est la responsabilité de l’éditeur : faute de garde-fous, il peut désormais perdre son compte, et plus seulement en cas de comportement grave ou répété.

Les citations des règles et du billet d’Apple en anglais sont traduites par la rédaction ; l’ancien texte est cité dans la traduction française officielle d’Apple.