Sommet de l’IA : « Il peut y avoir une volonté d’empoisonner les données », la cheffe de la Cnil alerte sur les risques

Invitée au sommet de Paris sur l’action pour l’intelligence artificielle qui s’achève ce mardi, Marie-Laure Denis est dans son rôle : celui du gendarme des données personnelles. La présidente de la Commission nationale de l’informatique et des libertés (Cnil) invite à la « réglementation ». « Biais », « surveillance », « malveillance »… Face aux nombreux risques, « le rôle de la Cnil est de combiner au mieux les formidables opportunités qu’offrent l’IA et la protection des droits des personnes », assure Marie-Laure Denis.

Et l’organisme, en première ligne pour faire appliquer le règlement général de protection des données (RGPD), compte bien veiller au grain. Marie-Laure Denis estime qu’il faut être « attentif aux biais » des IA qui aujourd’hui sont « un peu trop souvent des boîtes noires » dont le fonctionnement reste opaque. Mais la Cnil compte bien « garder la main », par exemple pour éviter qu’en se basant sur l’IA « quelqu’un qui cherche à recruter dans le bâtiment » ne se voit proposer « que des CV d’hommes » par l’algorithme.

Tous nos articles sur l’intelligence artificielle

« Il peut y avoir une volonté d’empoisonner en quelque sorte les données », souligne la présidente de la Cnil qui prend l’exemple d’une « voiture autonome conduite par de l’IA » si elle faisait face à des personnes « malveillantes ». Rassurez-vous toutefois, « la Cnil est attentive » à tous ces risques, assure Marie-Laure Denis.