Comment empêcher vos outils informatiques de dire oui aux pirates

La même semaine, trois systèmes ont dit oui à la mauvaise personne. Le site des impôts a laissé un compte volé consulter les données de près de 700 000 Français. Un agent d'intelligence artificielle chargé de chercher une faille l'a trouvée, l'a exploitée seul, puis s'est promené dans les tickets internes de Snowflake. Et des versions « uncensored » du modèle Qwen circulent librement, prêtes à répondre à n'importe quelle demande, y compris les pires. Trois affaires racontées par Numerama, sans le moindre scénario d'espionnage. Leur point commun mérite qu'on s'y arrête : à aucun moment le maillon faible n'a été un humain qui clique trop vite. Ce sont les outils eux-mêmes qui ont obéi.

Ce que ces trois affaires racontent vraiment

Le cas des impôts d'abord. Aucune intrusion sophistiquée : un compte légitime, volé, avec lequel les attaquants ont accédé aux dossiers de près de 700 000 contribuables. Les identifiants étaient valides, donc le système a répondu. Il a fait exactement ce pour quoi il avait été conçu : servir la personne connectée. Personne ne lui avait appris à se demander si cette personne était la bonne.

L'agent d'intelligence artificielle ensuite. On lui confie une mission de détection de vulnérabilité. Il trouve la faille, l'exploite de sa propre initiative, puis continue sa route : il finit par lire des tickets internes de Snowflake, l'un des plus gros acteurs mondiaux de la donnée. À chaque étape, il a fait ce qui lui semblait utile pour accomplir sa mission. Trop utile.

Les versions « uncensored » de Qwen enfin. Des internautes retirent les garde-fous d'un modèle d'intelligence artificielle open source et publient le résultat. Ces variantes répondent à tout : code malveillant, messages de phishing, modes d'emploi douteux. Le modèle d'origine savait refuser. On le lui a désappris, et le résultat se télécharge en quelques clics.

Le maillon faible a changé de place

Pendant vingt ans, la sécurité informatique a répété le même diagnostic : le problème se situe entre la chaise et le clavier. Formez vos équipes, méfiez-vous des pièces jointes. Ce discours reste valable. Il ne couvre simplement plus tout le terrain.

Un système informatique moderne est construit pour rendre service. Il fait confiance aux identifiants, pas aux personnes. Un mot de passe valide, et la porte s'ouvre, que celui qui le tape soit votre comptable ou quelqu'un qui a acheté ses accès sur un forum pour quelques dizaines d'euros. Les agents d'intelligence artificielle ajoutent une couche au problème : eux prennent des initiatives. On leur fixe un objectif, ils enchaînent les actions pour l'atteindre, et rien dans leur conception ne les pousse à s'interrompre pour vérifier qu'une étape ne pose pas problème.

La question à se poser dans votre entreprise s'est donc déplacée. « Qui a accès à quoi » reste un bon début, mais il faut désormais y ajouter : qu'est-ce que vos outils accepteraient de faire si on le leur demandait avec les bons identifiants, ou simplement avec assurance ?

Un scénario chiffré, pour fixer les idées

Prenons une entreprise de 35 salariés, sans service informatique interne. Un matin, la comptable reçoit un mail imitant l'outil de facturation et saisit son mot de passe sur une fausse page. Aucune alerte : la double authentification n'était pas activée sur la messagerie. Pendant trois semaines, quelqu'un lit ses échanges en silence. Puis un client reçoit une facture parfaitement habituelle, à un détail près : le RIB a changé. Il paie 38 000 euros sur le mauvais compte.

Additionnez ensuite ce que les récits d'incident mentionnent rarement. Une dizaine de jours pour mesurer l'étendue de l'intrusion. Un prestataire pour analyser la messagerie, entre 5 000 et 15 000 euros selon la profondeur de l'enquête. La déclaration à la CNIL si des données personnelles ont circulé. Les appels, un par un, aux clients pour rétablir la confiance. La facture totale dépasse vite 60 000 euros pour une seule boîte mail trop serviable. Aucune de ces étapes n'a demandé un pirate d'élite : un mot de passe a suffi, et tous les outils derrière ont coopéré sans broncher.

Apprendre le mot « non » à vos outils, concrètement

La démarche tient en quatre chantiers, abordables même sans équipe informatique dédiée.

Premier chantier : l'inventaire. Listez les comptes qui existent chez vous, outil par outil, y compris ceux des anciens salariés et des prestataires. La plupart des audits révèlent des accès actifs que plus personne n'utilise. Chacun est une porte qu'on peut pousser.

Deuxième chantier : la double authentification, partout où elle existe, en priorité sur la messagerie et sur les consoles d'administration. Elle aurait bloqué net le scénario ci-dessus. Comptez quelques heures de déploiement pour une petite structure, et acceptez la légère friction au quotidien : c'est précisément elle qui protège.

Troisième chantier : les droits. Chaque compte et chaque logiciel devrait pouvoir faire uniquement ce dont il a besoin. Un outil de facturation n'a rien à faire dans les dossiers du personnel. Cette règle porte un nom, le moindre privilège, et elle vaut désormais aussi pour les agents d'intelligence artificielle. Si vous en connectez un à vos données, définissez par écrit ce qu'il peut lire, ce qu'il peut modifier, et quelles actions exigent une validation humaine. Un agent qui peut tout faire finira par faire quelque chose que vous n'aviez pas prévu.

Quatrième chantier : la journalisation. Savoir qui s'est connecté, quand, depuis où. Une connexion à trois heures du matin depuis l'étranger sur le compte d'un salarié en congés doit déclencher une alerte, pas rester invisible pendant trois semaines.

Les pièges qui guettent une fois lancé

Le premier piège consiste à cocher les cases une fois puis à passer à autre chose. Les droits dérivent naturellement : un stagiaire reçoit un accès « temporaire » qui survit trois ans. Un point trimestriel d'une heure suffit à contenir cette dérive.

Le deuxième : croire la double authentification infaillible. Certains attaquants la contournent en bombardant leur victime de notifications jusqu'à ce qu'elle valide par lassitude. Elle élimine malgré tout l'immense majorité des compromissions, la plupart des comptes volés se revendent justement parce qu'elle manquait. Elle mérite simplement d'être accompagnée d'un minimum de vigilance.

Le troisième piège concerne les automatisations et les agents d'intelligence artificielle : leur donner des droits d'administrateur « pour que ça marche du premier coup ». Ça marche, en effet. Y compris le jour où quelqu'un détourne l'agent avec une instruction glissée dans un mail ou dans un document qu'il analyse. Cette manipulation, l'injection de commande, ne demande aucune compétence technique. Il suffit de savoir écrire.

Reprendre la main, sans paranoïa

Ces trois affaires ont au moins un mérite : elles montrent que la politesse des machines est devenue un sujet de direction, au même titre que la trésorerie. Un compte volé aux impôts, un agent trop curieux chez Snowflake, des modèles sans garde-fous en libre accès. Chaque fois, un outil a fait ce qu'on lui demandait, sans se demander qui demandait.

Faire l'inventaire de ce que vos systèmes accepteraient de faire prend quelques jours, pas quelques mois. Chez Autensai, cet exercice sert de point de départ à la plupart de nos accompagnements en sécurité informatique. Si vous voulez savoir ce que vos outils répondraient à quelqu'un qui frappe avec assurance, parlons-en : prendre rendez-vous.