Selon 404media, Hugging Face héberge plus de 5 000 modèles d’intelligence artificielle capables de reproduire l’apparence de personnes réelles. Beaucoup de ces modèles étaient initialement utilisés pour créer du contenu sexuel sans consentement explicite sur Civitai, une plateforme qui les a interdits sous la pression des fournisseurs de paiement.
5 000 modèles d’IA pour deepfake hébergés sur Hugging Face suite à l’arrêt de Civitai
By
Published on 1 août 2025 5h00
2000 MILLIARDS $D'ici 2030, le marché de l'intelligence artificielle devrait représenter près de 2000 milliards de dollars
Suite à cette interdiction, les utilisateurs se sont coordonnés pour sauvegarder et republier ces modèles sur Hugging Face, en dissimulant souvent leur véritable usage. Hugging Face n'a pas souhaité commenter cette situation. Si les politiques de la plateforme n'interdisent pas explicitement ce type de modèles, ses directives éthiques soulignent néanmoins l'importance du consentement.
Célébrités ou personnalités politiques et publiques ne sont pas les seules victimes de contenu sexuel généré sans leur consentement ou de désinformation générée par l'intelligence artificielle. Nous sommes tous concernés. En particulier par la pornographie deepfake, qui n'est pas un problème en devenir, elle cause déjà des préjudices importants.
Illustrant la rapidité avec laquelle les créateurs de ces contenus illicites s’organisent, des milliers de modèles d'IA ont été téléchargés sur Hugging Face. En effet, à la suite des mesures prises par la plateforme Civitai, les créateurs se sont tournés vers une autre plateforme, ce déplacement ne règle pas le problème, celui-ci se déplace sans disparaître.
La législation, l'application de la loi, l'éducation et le soutien aux victimes doivent être renforcés simultanément et mondialement. En ce sens, une coordination internationale pour responsabiliser les plateformes d'IA et combler les lacunes réglementaires, si nécessaire, est à renforcer.
Depuis 2024, la France a promulgué la loi SREN qui condamne les hypertrucages qui portent atteinte à la dignité des personnes.
Cette loi, complétée par le travail des associations, est à saluer. Depuis 2023, e-enfance relayait l’alerte de l’Office des mineurs sur l’explosion des deepfake pornographiques, ces photos sont par la suite utilisées comme moyen de chantage pour extorquer de l’argent (ou de réelles photos dénudées) à des victimes, notamment mineures.
Les familles, les écoles, les acteurs du numérique et les gouvernements doivent collaborer pour identifier et accompagner les victimes dès les premiers stades.
Victime de deepfake ? Contactez le 17cyber https://www.cybermalveillance.gouv.fr/diagnostic ou l’association E-enfance pour un soutien psychologique.
Sources :
https://www.404media.co/hugging-face-is-hosting-5-000-nonconsensual-ai-models-of-real-people/
https://e-enfance.org/deepfake-porno-le-chantage-aupres-des-ados-explose/