Excerpt: En moins de douze heures, les enquêteurs du GAO ont contourné les garde-fous de ChatGPT, Claude, Gemini et Grok et obtenu des plans d'attaque viables. Un test qui interroge la sécurité des assistants IA en entreprise.
À retenir
- # Quand les garde-fous des assistants IA cèdent en moins de douze heures : ce que révèle le test du GAO
- Les assistants d'intelligence artificielle sont devenus des outils de travail ordinaires : ils rédigent des courriels, résument des documents et répondent aux clients.
- Un rapport du Government Accountability Office (GAO), l'organisme d'audit du Congrès des États-Unis, apporte une réponse qui mérite l'attention des entreprises.
# Quand les garde-fous des assistants IA cèdent en moins de douze heures : ce que révèle le test du GAO
Les assistants d'intelligence artificielle sont devenus des outils de travail ordinaires : ils rédigent des courriels, résument des documents et répondent aux clients. Mais que se passe-t-il lorsqu'un utilisateur déterminé cherche à les détourner de leur usage prévu ?
Un rapport du Government Accountability Office (GAO), l'organisme d'audit du Congrès des États-Unis, apporte une réponse qui mérite l'attention des entreprises. À la demande de la sénatrice Maggie Hassan, le GAO a testé au printemps 2026 ChatGPT, Claude, Gemini et Grok. Dans chaque cas, ses enquêteurs ont contourné les garde-fous et obtenu, en moins de douze heures, des plans d'attaque jugés viables par des experts.
Le test du GAO et ce qu'il a obtenu
Les enquêteurs se sont connectés comme des utilisateurs ordinaires et ont soumis à chaque plateforme l'un des deux scénarios suivants : la préparation d'un attentat à l'explosif improvisé destiné à faire de nombreuses victimes, ou une attaque contre le réseau électrique visant à provoquer des dommages économiques. Chaque plateforme n'a été testée qu'une seule fois, sur un seul scénario.
Dans un premier temps, les garde-fous ont fonctionné : les assistants ont refusé certaines demandes, retiré des informations ou suspendu des comptes. Les enquêteurs ont toutefois persisté en utilisant des techniques courantes de contournement. En moins de douze heures par plateforme, les quatre systèmes avaient fourni des informations susceptibles d'aider à planifier une attaque, ensuite vérifiées par des experts.
Le rapport ne précise pas quelle plateforme a produit quel plan, ni les modèles exacts ou les techniques employées — un choix délibéré pour alerter sans fournir un mode d'emploi. Le GAO précise aussi que ses conclusions sont une photographie à un instant donné, et non un échantillon statistiquement significatif. Elles ne permettent pas de classer les fournisseurs, mais elles établissent un fait : aucun des quatre systèmes n'a résisté.
Que sont les garde-fous, et quelles sont leurs limites ?
Les garde-fous désignent les protections intégrées aux modèles : refus de certaines demandes, filtrage des contenus dangereux et surveillance des usages abusifs. Pour l'utilisateur ordinaire, ils sont largement invisibles — ce qui crée un faux sentiment de sécurité.
Le test du GAO montre que ces protections sont probabilistes, et non absolues. Un modèle peut refuser une demande directe, puis fournir des informations proches lorsque la même demande est reformulée ou découpée en étapes. La persistance de l'utilisateur devient alors le facteur décisif : douze heures, c'est la durée d'une journée de travail.
Les fournisseurs ont indiqué avoir renforcé leurs protections depuis le printemps 2026. La sécurité d'un assistant IA doit donc être évaluée en continu, et non une seule fois à son adoption.
Les implications pour les entreprises
Pour une entreprise, la leçon n'est pas de renoncer aux assistants IA, mais de cesser de les traiter comme des outils neutres et sans risque. Un assistant déployé auprès de dizaines de collaborateurs multiplie les points d'exposition, et un usage détourné peut engager la responsabilité de l'organisation.
La première implication concerne les politiques d'usage. Beaucoup d'entreprises ont adopté ces outils sans cadre écrit : chacun utilise l'assistant de son choix, sans règle sur les données partagées ni sur les usages interdits. Le rapport plaide pour l'inverse : définir par écrit ce qui est autorisé, ce qui ne l'est pas, et ce qui doit être signalé.
La deuxième implication concerne la supervision humaine. Un assistant IA ne doit pas devenir le seul maillon d'une décision sensible : document contractuel, réponse à un client, traitement de données personnelles ou financières. La supervision humaine compense les limites connues des garde-fous automatiques.
La troisième implication touche aux données. Les échanges avec un assistant peuvent contenir des informations stratégiques, commerciales ou personnelles. Les entreprises doivent savoir où ces données sont traitées, combien de temps elles sont conservées et si elles peuvent servir à entraîner de futurs modèles.
La question de la responsabilité des fournisseurs
Le rapport relance un débat central : jusqu'où va la responsabilité des entreprises qui conçoivent ces modèles ? Les fournisseurs investissent massivement dans la sécurité et corrigent les failles identifiées. Mais lorsque quatre plateformes majeures cèdent face à des techniques connues, la question de l'efficacité réelle de ces efforts se pose légitimement.
Les fournisseurs rappellent que leurs systèmes ne sont pas infaillibles et que la sécurité relève d'une responsabilité partagée entre concepteurs, déployeurs et utilisateurs. Mais les entreprises clientes ont besoin de garanties concrètes : des tests indépendants réguliers, des informations claires sur les limites connues et des mécanismes de signalement rapides.
La prudence consiste donc à ne pas se reposer uniquement sur les promesses des fournisseurs : tests internes et audits indépendants doivent compléter les garanties contractuelles. C'est l'une des leçons du rapport : c'est un organisme public indépendant, et non un fournisseur, qui a mis en évidence la faille.
Ce que les régulateurs pourraient exiger ensuite
La sénatrice Maggie Hassan a annoncé son intention d'organiser des auditions au Sénat sur ce sujet. Au-delà des États-Unis, le rapport s'inscrit dans un mouvement plus large : en Europe, le règlement sur l'intelligence artificielle impose déjà des obligations renforcées aux systèmes à risque.
Plusieurs évolutions sont plausibles : des tests de résistance indépendants avant la mise sur le marché, avec des résultats publiés de manière standardisée, ou des obligations de traçabilité pour les déploiements professionnels sensibles. La question des sanctions en cas de manquement répété reviendra probablement dans le débat public.
Pour les entreprises, l'anticipation est plus rentable que la réaction. Celles qui documentent déjà leurs usages, testent leurs outils et forment leurs équipes seront mieux préparées si de nouvelles exigences apparaissent.
Ce que les entreprises peuvent faire dès maintenant
### Définir une politique d'usage claire
Rédigez un document court qui précise les assistants autorisés, les données interdites — informations clients, secrets commerciaux, données de santé — et les usages proscrits. Faites-le valider par la direction et revoyez-le chaque trimestre.
### Former les équipes aux limites des outils
La plupart des collaborateurs ignorent que les garde-fous peuvent être contournés. Une formation de quelques heures suffit à expliquer les risques et à rappeler les bons réflexes : ne jamais saisir de données sensibles, vérifier toute information critique et signaler tout comportement suspect.
### Tester ses propres déploiements
Ne vous contentez pas des tests du fournisseur. Demandez à une personne de confiance de tenter de détourner l'assistant dans un cadre contrôlé et exigez des correctifs lorsque des faiblesses apparaissent. Un test qui échoue en interne coûte moins cher qu'un incident public.
### Superviser les usages sensibles
Identifiez les cas d'usage où une erreur ou un détournement aurait des conséquences graves : relation client, finances, ressources humaines, données personnelles. Pour ces cas, imposez une validation humaine systématique.
### Choisir ses fournisseurs avec exigence
Avant de déployer un assistant, comparez les engagements de sécurité des fournisseurs : tests indépendants publiés, délais de correction des failles et conditions de traitement des données. Privilégiez les offres qui documentent leurs limites plutôt que celles qui promettent une sécurité absolue. Cette exigence vaut pour une PME à Bafoussam — le Cameroun n'est ici qu'un exemple parmi d'autres — comme pour une entreprise à Paris ou à Lagos.
E.C.O. Tech accompagne les entreprises qui souhaitent tirer parti de l'intelligence artificielle sans en subir les risques : diagnostic de vos usages, politique d'usage adaptée à votre organisation, formation de vos équipes et tests internes réguliers. L'objectif est simple : utiliser ces outils en toute confiance, avec des garde-fous humains et organisationnels qui complètent ceux, imparfaits, des modèles eux-mêmes.
*Sources : U.S. Government Accountability Office, « Artificial Intelligence: Covert Testing Used Common Platforms to Create Viable Attack Plans » (GAO-27-108814), publié le 18 novembre 2026 ; Nextgov, « Major AI platforms generated viable plans for terrorist attacks, GAO finds », 18 novembre 2026 ; Anadolu Agency, « US watchdog finds AI platforms can be manipulated into generating attack plans », 18 novembre 2026 ; iCreat AI News, 19 novembre 2026.*
Diagnostic gratuit
Vous voulez appliquer cette idée dans votre structure ?
E.C.O.Tech peut analyser votre cas, identifier l’offre la plus adaptée et proposer une feuille de route simple : visibilité, CRM, automatisation, gestion métier ou cybersécurité.
Votre avis compte
Cet article vous a été utile ? Partagez votre expérience sur notre fiche Google officielle.