Rendez-vous avec Françoise Soulié, conseillère scientifique du Hub France IA, explique comment sécuriser l’intelligence artificielle face à une surface d’attaques en constante expansion. Elle présente les recommandations et détaille les mesures de prévention et de remédiation pour un développement d’IA responsable et sûr.
00:00On termine cette édition spéciale avec notre rendez-vous Culture C.
00:07L'idée c'est de vous faire découvrir des livres, des événements, d'approfondir notre culture cyber à tous.
00:12Focus spécial sur un livre blanc élaboré par le groupe de travail sécurité de l'IA du campus cyber et du hub France IH.
00:21Très heureuse de recevoir pour en parler Françoise Soulier. Bonjour Françoise.
00:25Bonjour et merci de l'invitation.
00:27Avec grand plaisir. Mathématicienne, informaticienne, 40 ans d'expérience dans l'intelligence artificielle.
00:32Vous êtes la conseillère scientifique du hub France IH qui est aujourd'hui la plus grande communauté d'acteurs IH en France.
00:39Alors ce livre blanc est parti de quelle idée sécurité et IH ?
00:43Alors en fait ce livre blanc il est parti d'une constatation et d'abord c'est que l'IA est de plus en plus attaqué.
00:50Donc vous avez tous entendu parler des fakes qui utilisent l'IA mais vous avez peut-être moins entendu parler de ce qu'on appelle le prompt injection dans lequel des personnes mal intentionnées vont insérer des instructions que vous n'aviez pas prévues.
01:05Donc de plus en plus d'attaques et aussi le fait qu'on s'est rendu compte que les systèmes d'IA largement déployés, ces systèmes d'IA jusqu'ici ils sont défendus comme tout le reste.
01:18Or l'IA ouvre comme on dit une surface d'attaque qui est beaucoup plus importante.
01:24Ça veut dire qu'il faut apporter des réponses vraiment spécifiques, il faut penser la cybersécurité différemment avec l'intelligence artificielle ?
01:31Alors différemment oui et non, il faut penser un système de défense en plus.
01:36Il faut toutes les défenses habituelles, c'est-à-dire les défenses, les pratiques cyber habituelles doivent être en place parce qu'une attaque sur l'IA c'est d'abord une attaque cyber pour rentrer dans le système puis ensuite quelque chose de très spécifique.
01:51Donc c'est la même chose qu'avant et des choses en plus et c'est ça qu'on a essayé de décrire dans ce groupe de travail.
01:57Avec donc vraiment un focus sur les vulnérabilités spécifiques à l'IA, tout le monde y trouve son compte.
02:04Ça parle à qui en particulier ? Aux responsables de sécurité des systèmes d'information ? Aux métiers qui utilisent la data ? A qui vous vous adressez vers ce livre blanc ?
02:13Qui a à apprendre du livre blanc ?
02:15On s'est rendu compte d'une chose, c'est que, comme vous le savez, la défense contre les attaques cyber, c'est pour les gens de la cyber.
02:25Les gens qui développent les systèmes d'IA, les data scientists pour le dire vite, les data scientists ne se préoccupent pas de la défense.
02:34Ce n'est pas leur sujet, disent-ils.
02:36Or on se rend compte qu'avec la sophistication croissante des attaquants, pour se défendre correctement, il faut que les data scientists eux-mêmes aient prévu le coup, pour le dire vite,
02:45et que donc ils aient prévu, dans leur développement de produits, des moyens de se défendre contre les attaques.
02:54Donc ce livre blanc, il s'attaque essentiellement, il s'attaque à deux populations, les gens de la cyber et les gens de la data science.
03:05Et donc ça, ça veut dire qu'un double vocabulaire.
03:07Pour être protégé by design, par défaut ?
03:09Ce serait idéal.
03:10Ce serait idéal.
03:11Ce serait idéal si on arrivait à le faire complètement.
03:13On ne va pas arriver à le faire complètement, mais on va clairement le faire beaucoup mieux qu'on est capable de le faire aujourd'hui.
03:18Donc on a voulu que ce document soit compréhensible, à la fois par des gens de la cyber et par des gens de l'IA.
03:25Moi, quand les gens de la cyber parlent, je ne comprends rien.
03:28Quand je parle, les gens de la cyber ne me comprennent pas non plus.
03:31Donc cette question du vocabulaire commun est quelque chose de très important.
03:34et aussi de comprendre quelles sont les problématiques.
03:38Quand je suis un data scientist, je dois comprendre les problématiques que les gens de la cyber vont avoir pour me défendre finalement, pour défendre mon système.
03:48Donc cette compréhension, cette double compréhension, c'est ce qu'on a essayé de faire dans ce document.
03:52Donc il est complet, exhaustif, il y a dix fois trop de trucs, mais tout y est, c'est le but.
03:56C'est aussi une synthèse de la littérature qu'on trouve sur ce sujet-là.
04:00C'est la référence. La littérature, c'est abominable, il y en a des tonnes et des tonnes.
04:04En particulier, des documents qui ont été faits par des gens de la cyber que les gens de l'IA ne connaissent absolument pas.
04:10Bon, lire tout ça, ça fait beaucoup.
04:11Donc on a essayé de synthétiser, on a essayé de faire des propositions concrètes.
04:16C'est-à-dire, si je suis...
04:16Oui, c'est vraiment un document très pédagogique, très opérationnel.
04:20Voilà, très pratico-pratique et encore pas assez, on pense.
04:23Puisque dans la prochaine version, il y aura carrément un guide pratique.
04:25Voilà ce que tu dois faire.
04:27À telle étape, à telle étape, à telle étape.
04:28On précise que celui que j'ai parcouru, c'est la deuxième édition.
04:35Vous travaillez déjà sur une troisième édition.
04:36Tout à fait, qui va sortir en novembre, je pense.
04:40Alors ça va sortir...
04:41Pourquoi toutes ces éditions ?
04:43Tout simplement parce que l'IA, ça avance tellement vite
04:47qu'à chaque fois qu'il y a des nouveaux développements de l'IA,
04:50tout le monde dit, ouais, c'est génial, on va pouvoir faire blabla, ça et ça.
04:53Nouvelles attaques potentielles, donc nouveau travail, on n'a pas fini.
04:57Merci beaucoup, François Soulier, d'avoir été avec nous.
05:00Je rappelle que vous êtes conseiller scientifique du Hub Francia.
05:02Et puis merci à tous de nous avoir suivis.
05:04C'était une édition spéciale de Smart Cyber,
05:06tournée ici sur le campus francilien,
05:09à l'occasion de l'événement CyberEco.
05:11On se retrouve très très vite sur la chaîne Bsmart.
Écris le tout premier commentaire