Dossier cybersécurité - « Toutes les menaces peuvent venir de l’IA »

Le Journal du Palais. Quelle est la place de l’intelligence artificielle dans le domaine de la cybersécurité ? Comment est-elle concrètement utilisée ?

Marion Kemps Houver. L’IA et la cybersécurité sont liées depuis un moment déjà, mais comme cela fait partie de notre quotidien, on n’y fait pas forcément attention. On peut par exemple utiliser les systèmes d’intelligence artificielle pour détecter les intrusions ou les comportements anormaux avec des pares-feux intelligents. De plus en plus d’entreprises intègrent l’IA dans leur cybersécurité, que ce soit pour détecter ces comportements étranges ou des intrusions sur un réseau. Il y a aussi des choses qui existent depuis longtemps qui permettent de vérifier que c’est un humain et non une machine qui essaie d’intégrer ou pirater un système.

Lorsqu’une attaque est en cours, l’IA reste utile : elle permet de détecter des patterns inhabituels et d’étudier les activités suspectes ou les extractions de données pour « prédire la suite ». On peut alors plus facilement cibler où est l’attaque et réagir plus rapidement.

Concrètement, il existe des logiciels d’intelligence artificielle très efficaces : il y a notamment Darktrace qui permet d’identifier des comportements anormaux sur un réseau – le logiciel peut par exemple s’appuyer sur des algorithmes d’apprentissage automatique pour détecter si je me connecte sur mon espace de travail en dehors de mes heures habituelles, et ainsi lancer une alerte si l’activité est suspecte.

L’Intelligence artificielle est également utilisée du côté des cyberattaquants, est-elle davantage leur alliée que la nôtre ?

Je dirais que c’est à peu près 50/50 : l’IA permet par exemple de sécuriser et de mieux reconnaître les attaques de type phishing (ou hameçonnage, Ndlr), mais de l’autre côté, elle sera aussi capable de créer des pièges plus crédibles pour l’humain. Toutes les cybermenaces peuvent venir de l’intelligence artificielle : elle permet de contextualiser les éléments et de reproduire ce qui existe déjà pour intégrer le réseau d’une entreprise. Il existe par exemple une application qui, en 30 secondes, permet d’enregistrer une voix et la reproduire en différentes langues ou lui faire dire des choses qu’elle n’aurait jamais dites. D’où la vigilance qu’il faut avoir au quotidien par rapport aux fake news ou ce genre de choses qui peuvent entraîner de nombreuses problématiques dans le monde professionnel et personnel. Il faut savoir s’en protéger, mais aussi apprendre à l’utiliser et comprendre comment cela fonctionne.

La première chose que je demande quand j’interviens en entreprise c’est « Est-ce que vous utilisez ChatGPT ? Si c’est le cas, est-ce que vous l’avez bien configuré pour ne pas que vos données entraînent le modèle ? » C’est une vérification importante à mettre en oeuvre pour la sécurité des données de l’entreprise. Si vous avez une recette spécifique et que vous souhaitez l’améliorer avec ChatGPT sans le configurer pour protéger vos données, cette recette sera disponible aux yeux de tous car elle entrera dans le catalogue des informations utilisées par le modèle, mais c’est aussi valable pour des informations plus sensibles.

Nous, au niveau de notre cybersécurité, quand on déploie un modèle on le met sur un GPU - un petit processeur - où toutes les données de l’entreprise sont hébergées en local (plutôt qu’en réseau), garantissant une certaine sécurité. Pour prédire les attaques et pour la souveraineté de nos données en France, il vaut mieux qu’il y ait des serveurs qu’on utilise depuis chez nous : c’est ce vers quoi se dirigent de plus en plus de sociétés.

Pour les petites entreprises, TPE/PME, et les collectivités, l’intelligence artificielle constitue aujourd’hui un danger bien plus grand qu’avant, c’est clair. Mais aujourd’hui, ces structures n’ont pas des fonds assez importants, ça reste des questions de moyens. Malheureusement, pour se protéger, il faut avoir de l’argent, et ce malgré les différents financements qui existent…

Quelle est alors la solution pour ces petites structures ?

Le vrai problème c’est quand on se dit que ce genre d’attaque n’arrive jamais et donc on ne met pas en place de système de cyberdéfense. En avoir un, ce n’est pas non plus la garantie que rien ne se passera, mais c’est une sécurité supplémentaire. Il y a toujours une marge d’erreur, il faut toujours être vigilant.

Selon moi, chaque entreprise ayant des données spécifiques, il faut parvenir à adapter les logiciels en fonction des besoins. En réalité, c’est un accompagnement qu’il faut faire, pas simplement se dire « j’achète mon logiciel et c’est bon je suis protégé ». Il faut partir d’un diagnostic complet pour que cette solution soit pertinente : chacun a des contraintes ou des problématiques différentes.

Il y a aussi un besoin d’acculturation. La sensibilisation est importante – c’est par exemple le cas dans le cadre de ce Forum de la Cybersécurité. Malheureusement, il y a encore des PME pour lesquelles l’informatique passe au second plan, mais aujourd’hui, sans ordinateur, on ne travaille plus : se protéger est une nécessité.