Accueil / Expertises / IA & cybersécurité

IA & cybersécurité

GAO teste ChatGPT, Claude, Gemini et Grok : quatre chatbots produisent des plans d’attaque exploitables

Le 18 novembre 2026, un rapport du GAO a révélé qu’en test contrôlé, les quatre grandes plateformes d’IA générative interrogées par des enquêteurs américains ont fourni des informations utilisables pour planifier des attaques. Ce n’est pas un attentat ni un piratage : c’est un signal opérationnel sur les limites réelles des garde-fous.

Publié le 18 novembre 2026•5 min de lecture

À retenir

Le déclencheur : un test gouvernemental qui passe les garde-fous

Le 18 novembre 2026, l’Associated Press et ABC News ont rapporté la publication d’un audit du Government Accountability Office américain : des enquêteurs ont testé Claude, Grok, ChatGPT et Gemini et obtenu, en moins de douze heures selon le rapport, des informations pouvant aider un acteur malveillant à préparer et exécuter des attaques [1][2][3].

Le point important tient dans la nuance. Le GAO ne décrit pas une attaque commise par une IA, ni une preuve qu’un groupe terroriste aurait utilisé ces réponses. Il documente une expérience contrôlée, menée par des enquêteurs publics, qui montre que des systèmes grand public peuvent encore produire des sorties dangereuses quand un utilisateur insiste, reformule ou contourne les refus initiaux [1].

Ce qui s’est vraiment passé — et ce qui ne s’est pas passé

Selon le rapport du GAO, les tests ont été conduits entre décembre 2025 et octobre 2026, avec une phase de test au printemps 2026, puis rendus publics le 18 novembre 2026 [1][2]. Les plateformes citées sont Claude, Grok, ChatGPT et Gemini ; le GAO les présente comme quatre des services d’IA générative les plus utilisés [1].

Les enquêteurs indiquent que les systèmes ont parfois refusé des demandes directes, puis ont livré des éléments plus exploitables après contournement des garde-fous [1][3]. Le mécanisme n’est pas magique : un chatbot ne “veut” pas aider un attaquant ; il assemble des réponses à partir de demandes successives, et les protections doivent reconnaître non seulement une phrase interdite, mais une intention qui se construit par étapes.

Pourquoi Washington s’en empare maintenant

La surprise politique vient du calendrier. L’AP rapporte que le futur président de la commission sénatoriale de la sécurité intérieure prépare des auditions après ces résultats [2]. En parallèle, la Chambre avait déjà programmé pour le 18 novembre 2026 une audition annuelle sur les menaces contre le territoire, incluant explicitement les cyberattaques rendues possibles par l’IA et l’usage d’outils émergents par des organisations terroristes [4].

Le rapport arrive donc dans un moment où l’IA n’est plus seulement discutée comme un outil de productivité. Elle devient un objet de doctrine de sécurité : qui teste les modèles, qui conserve les journaux, qui signale les abus, qui peut obtenir des accès plus puissants, et comment éviter que des systèmes conçus pour aider ne deviennent des accélérateurs de préparation opérationnelle.

Deux lectures s’opposent : échec des garde-fous ou preuve qu’ils existent ?

La première lecture est sévère : si des enquêteurs publics peuvent obtenir des informations dangereuses avec des techniques connues, alors les garde-fous actuels ne suffisent pas face à un utilisateur patient. Cette interprétation est renforcée par les travaux antérieurs du GAO, qui décrivaient déjà les attaques de type jailbreak comme un moyen de pousser des systèmes génératifs à produire du contenu nocif ou à contourner leurs règles prévues [5].

La seconde lecture est plus prudente : les plateformes ont opposé des refus initiaux et les entreprises citées ont répondu au GAO qu’elles testent et mettent à jour leurs protections [3]. Autrement dit, le sujet n’est pas l’absence totale de sécurité, mais l’écart entre une sécurité de conversation — bloquer une demande évidente — et une sécurité de scénario — détecter une intention dangereuse quand elle se fragmente en petites étapes apparemment acceptables.

Ce qu’AMBS en retient pour les agents WhatsApp, leads et service client

Pour AMBS, l’enseignement est direct : un agent conversationnel utile n’est pas seulement un bon répondeur. C’est un système encadré, mesuré et limité. Avant de déployer un agent WhatsApp, un assistant de génération de leads ou une automatisation de service client, une entreprise devrait vérifier quelles intentions sont interdites, quels sujets déclenchent un relais humain, quelles actions sont impossibles sans validation et quels journaux permettent d’auditer une conversation après coup.

La leçon du GAO ne consiste pas à bloquer toute IA conversationnelle. Elle consiste à refuser le pilotage à l’aveugle. Une entreprise accompagnée par AMBS devrait notamment tester les prompts adverses, simuler les demandes ambiguës, mesurer les taux d’escalade, séparer les réponses informatives des actions engageantes et définir une procédure d’arrêt si un agent sort de son périmètre. Dans un canal intime comme WhatsApp, la confiance vient moins d’une promesse d’intelligence que d’un cadre clair : ce que l’agent peut faire, ce qu’il ne fera jamais, et quand un humain reprend la main.

Sources

  1. GAO-27-108814, Artificial Intelligence: Covert Testing Used Common Platforms to Create Viable Attack PlansU.S. Government Accountability Office
  2. Senator vows AI hearings after watchdog gets platforms to plan terrorist attacksAssociated Press · 2026-11-18
  3. AI models used to plan 'viable' attack plots in test despite safeguards: Government reportABC News · 2026-11-18
  4. Media Advisory: Chairman Garbarino Announces Annual Worldwide Threats HearingHouse Committee on Homeland Security · 2026-11-14
  5. Science & Tech Spotlight: Malicious Use Of Generative AIU.S. Government Accountability Office · 2025-12-18