Calipia : le blog

En juin 2025, OpenAI a publié un rapport au ton inhabituellement incisif : Disrupting Malicious Uses of AI. Derrière ce titre sobre se cache une radiographie glaçante de la manière dont des groupes malveillants exploitent les modèles d’intelligence artificielle, notamment les LLM (Large Language Models), pour industrialiser la cybercriminalité, manipuler l’opinion et infiltrer les infrastructures cloud.

Si le rapport se veut technique, il jette aussi un pavé dans la mare : l’IA générative, censée révolutionner les usages métiers, devient également l’arme de choix des attaquants. Entre automatisation de phishing, ingénierie sociale assistée par script Python et diffusion de désinformation ciblée, les usages dévoyés sont aussi créatifs qu’inquiétants. OpenAI, loin de rester passif, dévoile sa riposte — mêlant algorithmes défensifs, collaborations avec les hyperscalers et analyses humaines. Décryptage.

Des LLM au service du cybercrime : industrialisation des attaques

Le rapport est structuré autour de cas d’usage concrets, exposant les tactiques, techniques et procédures (TTP) observées par les équipes de sécurité d’OpenAI. Une des menaces emblématiques analysées : une opération nord-coréenne d’usurpation d’identité professionnelle.

Sous couvert de faux profils techniques, les attaquants ont automatisé la génération de CV, lettres de motivation et réponses d’entretien via ChatGPT, le tout scripté pour simuler des candidats crédibles dans le secteur IT. Plus sournois encore, ils ont obtenu des conseils techniques pour masquer leur localisation sur les endpoints d’entreprise et automatiser des comportements utilisateurs (mouvements de souris, activité clavier) afin de tromper les outils de supervision.

Le tout s’inscrit dans une nouvelle taxonomie proposée par OpenAI : le LLM ATT&CK Framework, déclinaison inspirée de MITRE ATT&CK, mais orientée vers les abus spécifiques des modèles de langage.

Cloud : infrastructure cible et vecteur d’amplification

Un thème transversal au rapport : le cloud comme terrain de jeu favori des cyber-opérations alimentées par IA.

L’analyse met en lumière des campagnes appuyées par l’exploitation de services cloud, aussi bien pour l’hébergement des charges malveillantes que pour la distribution ou l’orchestration. Quelques exemples marquants :

• Operation ScopeCreep : un groupe russophone s’appuie sur ChatGPT pour développer un malware ciblant Windows, distribué via GitHub, avec un C2 basé sur Telegram.
• KEYHOLE PANDA et VIXEN PANDA : groupes liés à la Chine, exploitant les LLM pour automatiser la reconnaissance réseau, le vol de credentials, et diffuser de la propagande politique sur des plateformes sociales.
• Uncle Spam : une campagne de désinformation américaine instrumentalisée via Bluesky et X, avec des contenus rédigés par IA.
• Wrong Number : escroquerie financière orchestrée par SMS et WhatsApp, utilisant du contenu multilingue généré automatiquement pour piéger des cibles dans des schémas de paiements crypto sur des plateformes cloudisées.

Tous ces cas confirment une tendance : l’IA abaisse la barrière technique pour conduire des attaques complexes, tout en bénéficiant de l’élasticité et de l’anonymat relatif offert par les environnements cloud.

Contre-attaque algorithmique : OpenAI comme vigie de ses propres modèles

OpenAI, consciente du potentiel ambivalent de ses propres technologies, déploie une stratégie défensive articulée autour de deux leviers : l’intelligence artificielle défensive et l’intervention humaine.

Les modèles d’OpenAI sont ainsi utilisés en contre-modélisation : détection comportementale des abus, identification des patterns conversationnels suspects, et analyse automatisée des workflows malveillants. Cette approche “red team AI vs blue team AI” permet de surveiller les abus à l’échelle, tout en affinant les mécanismes de détection.

Mais l’entreprise souligne aussi que l’IA seule ne suffit pas. Elle collabore activement avec des partenaires cloud (AWS, Azure, GCP) ainsi que des agences gouvernementales pour mutualiser les signaux faibles et déclencher des mesures de remédiation : blocage de comptes, retrait de contenu, alertes à la communauté cyber.

Le rapport d’OpenAI pose, en creux, une question fondamentale pour les décideurs IT et les architectes cloud : comment adapter la gouvernance de sécurité à une réalité où les menaces sont générées — et détectées — par des IA ?

Il devient crucial d’intégrer l’IA dans la supply chain de défense : détection, attribution, mitigation. Cela implique une montée en compétences des équipes SecOps, mais aussi une vigilance contractuelle avec les fournisseurs de modèles. La sécurité des infrastructures cloud, autrefois focalisée sur les configurations et le monitoring réseau, doit aujourd’hui intégrer des vecteurs inédits : la sémantique, la génération de contenu et l’interaction LLM-humain.

Conclusion : l’IA, ange ou démon ?

L’analyse d’OpenAI démontre que l’IA est aujourd’hui au cœur de l’arsenal offensif des cybermenaces. Mais elle peut aussi devenir un rempart si elle est correctement intégrée dans une stratégie de cybersécurité. Comme souvent, la technologie est neutre — tout dépend de l’usage qu’on en fait.

Aux RSSI, architectes cloud et directeurs de la transformation numérique de tirer les leçons de ce rapport pour préparer leurs défenses aux scénarios d’attaque de demain : plus rapides, plus crédibles, plus automatisés. Et désormais, amplifiés par les LLM.