ThreatDown Actualités

ThreatDown : l'IA sans garde-fou s'est généralisée, ouvrant la voie à une nouvelle ère de la cybercriminalité

ThreatDown 6 644 modèles d’IA présentés comme « sans garde-fou » et librement accessibles sur Hugging Face, qui ont été téléchargés plus de 22 millions de fois en 30 jours. L’étude met en garde les organisations : il leur reste environ six mois avant que la prochaine génération de cyberattaques basées sur l’IA ne se généralise.


  • ThreatDown ont identifié 6 644 modèles d'IA présentés comme « sans garde-fou » et librement accessibles sur Hugging Face, qui ont été téléchargés plus de 22 millions de fois en 30 jours.
  • ThreatDown a révélé que l'écosystème criminel de l'IA s'appuie aujourd'hui de plus en plus sur l'accès loué à des modèles de pointe légitimes et à des infrastructures cloud grand public, plutôt que sur des systèmes d'IA développés sur mesure.
  • Le rapport souligne que les organisations disposent d'environ six mois pour se préparer avant que la prochaine génération de cyberattaques basées sur l'IA ne soit largement accessible aux cybercriminels.

SANTA CLARA, Californie – ThreatDown, leader dans le domaine des services de détection et de réponse gérés (MDR) haut de gamme, a publié aujourd’hui son rapport intitulé « La cybercriminalité en 2026 à l’ère de l’IA », qui présente de nouvelles recherches révélant que les outils d’IA facilitant la cybercriminalité moderne sont de plus en plus accessibles, généralisés et difficiles à surveiller pour les défenseurs.

Alors que le débat sur la sécurité liée à l’IA s’est largement concentré sur les menaces futures, ThreatDown ont constaté que bon nombre des technologies facilitant la cybercriminalité alimentée par l’IA sont déjà librement accessibles via des plateformes grand public, des fournisseurs de cloud et des services commerciaux. Prises dans leur ensemble, ces conclusions suggèrent que l’IA a abaissé le seuil d’accès aux attaques sophistiquées tout en rendant l’écosystème criminel plus difficile à perturber.

Ce rapport combine les recherches originales ThreatDownsur les menaces avec l’analyse de modèles d’IA accessibles au public, des marchés criminels dédiés à l’IA et des techniques d’attaque émergentes, afin de montrer comment l’IA redéfinit le paysage actuel des menaces et pourquoi les organisations disposent d’un délai de plus en plus court pour se préparer à ce qui les attend.

L'IA « sans garde-fou » s'est généralisée
La première conclusion majeure du rapport remet en cause l'hypothèse selon laquelle l'IA dangereuse se trouverait exclusivement sur le dark web. ThreatDown ont identifié 6 644 modèles d’IA publiés ouvertement sur Hugging Face sous des étiquettes autodéclarées telles que « abliterated », « uncensored », « decensored », « heretic » et « unfiltered » : des termes indiquant que ces modèles n’ont plus de réticence à traiter des requêtes que les systèmes d’IA grand public rejetteraient.

Au total, ces modèles ont été téléchargés plus de 22 millions de fois en l’espace de 30 jours seulement.
Contrairement aux services d’IA malveillants par abonnement qui s’appuient sur des fournisseurs distants, ces modèles peuvent être téléchargés, exécutés localement et modifiés sans nécessiter d’expertise particulière.

Une fois opérationnels sur une machine locale, ils ne laissent aucune trace permettant aux fournisseurs d’IA de les surveiller ni aucun compte à suspendre, ce qui réduit considérablement les possibilités pour les défenseurs de détecter leur utilisation.

Pour les équipes de sécurité, les implications sont importantes : l’IA malveillante passe au hors ligne, réduisant ainsi bon nombre des possibilités traditionnelles de détecter ou de perturber son utilisation.

L’IA criminelle ne développe pas sa propre intelligence. Elle la loue.
ThreatDownLa deuxième conclusion majeureThreatDownremet en cause une autre idée reçue : celle selon laquelle les cybercriminels développeraient de toutes pièces des plateformes d’IA sophistiquées.
Au contraire, les chercheurs ont cartographié un écosystème de services d’IA malveillants qui, pour l’essentiel, reconditionnent, revendent ou intègrent des modèles d’IA de pointe légitimes en utilisant des infrastructures cloud grand public.

Parmi les vitrines examinées, des outils tels que WormGPT, Kriminal, DadGPT et Xanthorox, qui se présentaient comme des plateformes logicielles légitimes, s’appuyaient en réalité sur l’infrastructure et les services de fournisseurs technologiques légitimes — notamment Cloudflare, Google Cloud, Anthropic, xAI, Vercel, DeepSeek et Alibaba —, ce qui illustre à quel point l’IA criminelle dépend de plus en plus de plateformes grand public légitimes plutôt que d’infrastructures sur mesure.

« Le marché de l’IA criminelle ne développe pas sa propre intelligence. Il la loue », a déclaré Kendra Krause, directrice générale de ThreatDown. « Cela change la façon dont les défenseurs doivent aborder le problème. Il n’existe pas de chaîne d’approvisionnement criminelle unique à démanteler ni de plateforme unique à fermer. Les organisations doivent disposer d’une visibilité sur ce qui se passe au sein de leurs propres environnements, car l’infrastructure qui alimente ces services ressemble de plus en plus à celle qui alimente l’IA légitime. »
De nombreux services d’IA criminelle ressemblent désormais à des entreprises SaaS classiques, avec des sites web, des abonnements et des systèmes de paiement. Comme le souligne le rapport, « la clause de non-responsabilité sert de camouflage ».

L'adoption de l'IA crée de nouvelles opportunités pour les attaquants
Le rapport révèle également que les organisations élargissent leur propre surface d'attaque, car les employés adoptent rapidement des outils d'IA en dehors des processus de gouvernance établis.
Selon Netskope, près de la moitié des employés utilisant l'IA générative au travail le font via des comptes personnels non gérés, créant ainsi un environnement d'IA « fantôme » en pleine expansion que les équipes de sécurité ne peuvent souvent pas détecter. Parallèlement, ThreatDown ont répertorié des capacités d’agents d’IA malveillants conçus pour voler des identifiants, exfiltrer des données sensibles, installer des logiciels malveillants et manipuler les agents d’IA ou les personnes qui les exploitent.

Alors que les entreprises adoptent l’IA pour améliorer leur productivité, les attaquants exploitent de plus en plus cet enthousiasme à l’aide d’outils malveillants, de téléchargements trompeurs et d’ingénierie sociale basée sur l’IA.

La prochaine phase pourrait intervenir d’ici six mois
Alors que les menaces actuelles basées sur l’IA transforment déjà la cybercriminalité, le rapport met en garde contre l’arrivée d’un changement aux conséquences encore plus importantes.
En mai 2026, le Google Threat Intelligence Group a révélé ce qu’il considère comme le premier exploit « zero-day » connu développé par des cybercriminels à l’aide de l’IA. À peine un mois auparavant, Anthropic avait dévoilé Mythos Preview, un modèle d’IA avancé capable de découvrir et d’exploiter des vulnérabilités logicielles à une échelle sans précédent, une capacité si sensible que son accès avait initialement été réservé à des défenseurs de confiance. Mythos n’était pas impliqué dans le cas du GTIG, mais il symbolise la catégorie de capacités ThreatDown la prolifération.

ThreatDown estiment que des modèles dotés de capacités comparables devraient faire leur apparition sur les marchés criminels d’ici environ six mois.
Leur arrivée pourrait faire grimper en flèche le nombre de vulnérabilités nouvellement découvertes, mettant sous pression les organisations qui peinent déjà à suivre le rythme de patch management. Cela offrirait également aux attaquants davantage d’occasions d’exploiter les failles récemment révélées.

« La question n’est plus de savoir si l’IA va transformer la cybercriminalité », a déclaré Shawn Dorsey, directeur principal des services gérés chez ThreatDown. « La transformation est déjà en cours. Les organisations qui améliorent dès maintenant la visibilité sur l’utilisation de l’IA, renforcent la sécurité des identités et accélèrent la gestion des vulnérabilités seront bien mieux placées que celles qui attendent que ces capacités se généralisent. »

Trois priorités pour les six prochains mois
Le rapport se termine par trois recommandations immédiates à l'intention des organisations qui se préparent à faire face à la prochaine génération de menaces basées sur l'IA :

  1. Appliquez les correctifs sans perdre de temps.La détection des vulnérabilités basée sur l'IA va multiplier le nombre de correctifs logiciels que les entreprises devront gérer. vulnerability assessment automatisée vulnerability assessment patch management rigoureuse patch management de plus en plus essentielles.
  2. Assurer une surveillance continue 24 heures sur 24, 7 jours sur 7.L'intelligence artificielle rend les attaquants plus rapides et leur permet d'agir à plus grande échelle, mais elle ne modifie en rien leurs objectifs. Une surveillance continue assurée par un centre d'opérations de sécurité ou un service MDR reste indispensable pour détecter les attaques ciblant l'identité et la compromission des terminaux.
  3. Identifiez et contrôlez l'IA « fantôme ».Les outils d'IA non autorisés, les agents d'IA et les connexions MCP constituent des risques en matière de sécurité, de confidentialité et de conformité contre lesquels les entreprises ne peuvent se prémunir tant qu'elles ne les ont pas détectés.

Téléchargez lerapport complet«La cybercriminalité à l’ère de l’IA» :

Données et méthodologie du rapport:
Les données du rapport proviennent d’échantillons de menaces détectées par l’équipe de recherche ThreatDown, ainsi que des analyses ThreatDown sur les marchés tiers, les plateformes de modèles d’IA, les référentiels et les écosystèmes de développeurs. Lorsque le rapport s’appuie sur les conclusions d’autres chercheurs en sécurité, de développeurs d’IA ou d’organisations tierces, ces sources sont directement citées tout au long du document.

Les conclusions concernant Hugging Face proviennent d’un recensement complet des modèles publics répertoriés sur Hugging Face, réalisé à l’aide d’un script conçu pour être reproductible de manière indépendante. Les chercheurs ont interrogé l’API publique de Hugging Face à la recherche de modèles correspondant à l’un des cinq termes indiquant sans ambiguïté que les garde-fous ont été supprimés : « abliterated », « uncensored », « heretic », « decensored » et « unfiltered », en ne conservant que les correspondances de nom authentiques. Un ensemble plus large de termes, comprenant des descripteurs généraux tels que « dolphin » et « nsfw », a été testé à titre de contre-vérification, mais a été exclu du chiffre principal car il recense également des modèles à usage général et à contenu pour adultes sans rapport avec le sujet.

Les téléchargements en double d’un même modèle, souvent remis en ligne sous différents comptes et formats de fichiers, ont été regroupés en un seul décompte, ramenant ainsi les 15 865 téléchargements individuels vers le référentiel à 6 644 modèles distincts. Ces étiquettes sont autodéclarées par l’éditeur de chaque modèle et reflètent la manière dont les modèles sont publiés plutôt qu’un comportement testé de manière indépendante.

Les chiffres de téléchargement proviennent directement de la métrique « téléchargements du mois dernier » de Hugging Face, un décompte glissant sur 30 jours enregistré au 4 juillet 2026. La tendance mensuelle des publications mentionnée ailleurs dans le rapport couvre la période allant de juillet 2025 à juin 2026.

À propos de ThreatDown
ThreatDown un leader dans le domaine des services de détection et de réponse gérés (MDR) haut de gamme, spécialement conçu pour offrir aux équipes de sécurité aux ressources limitées une protection hautement efficace, sans complexité. Alors que les attaques se multiplient et s’automatisent de plus en plus, ThreatDown une IA propriétaire et la recherche sur les menaces au jugement d’analystes pour un déploiement en quelques minutes. Reconnu par MRG Effitas, AVLab et G2, ThreatDown les opérations de sécurité ThreatDown pour intercepter les attaques sophistiquées à la vitesse des menaces modernes.

FAQ

Pourquoi un criminel téléchargerait-il un modèle d’IA gratuit plutôt que d’acheter un modèle « jailbreaké » de Frontier ?
Parce que le modèle gratuit est plus difficile à détecter. GhostGPT, un de ces services d’IA malveillants par abonnement, coûte environ 50 dollars par semaine et achemine chaque requête via un fournisseur susceptible de l’enregistrer ou d’en révoquer l’accès. Un modèle open source sans barrières de sécurité, téléchargé depuis Hugging Face, ne coûte rien, fonctionne hors ligne sur le matériel du criminel et ne génère aucun trafic visible par quiconque. Cela repousse la détection vers la couche des terminaux et des identités plutôt que vers le réseau.

Les pirates ont-ils encore besoin d’une expertise technique pour mener une attaque sérieuse ?
De moins en moins. Lors d’une intrusion survenue début 2026 au sein d’un service municipal d’approvisionnement en eau à Monterrey, au Mexique, et documentée par Dragos, un pirate sans aucune expérience en technologies opérationnelles a utilisé des modèles d’IA commerciaux lors de la phase de reconnaissance. L’un de ces modèles a identifié, de sa propre initiative, une interface SCADA sur le réseau interne du service, l’a correctement classée comme infrastructure critique et a recommandé une attaque ciblée contre celle-ci. L’attaque a échoué, mais la leçon reste valable : l’IA comble le déficit de compétences et rend chaque étape d’une attaque plus rapide, moins coûteuse et plus efficace.

L’IA « fantôme » est-elle un problème de gouvernance ou un problème de sécurité ?
Il s’agit d’un problème de sécurité que la plupart des organisations ont classé dans la catégorie de la gouvernance. Chaque compte d’IA non autorisé créé par un employé génère des mots de passe, des identifiants OAuth, des clés API et des jetons de session qui permettent d’accéder aux systèmes de l’entreprise. Ces informations confidentielles constituent désormais une cible privilégiée pour les attaques basées sur l’identité.

Le rapport 2025 d’IBM sur le coût des fuites de données a révélé que les incidents liés à l’IA « fantôme » coûtaient en moyenne 670 000 dollars de plus que les incidents de sécurité classiques. Pour ThreatDown, la visibilité est primordiale : aucune entreprise ne peut gérer, ni défendre, une empreinte IA qu’elle ne peut pas voir.

Contacts
Contact presse
Treble
Katie Anne Hayes
threatdown