Intelligence artificielle: comment des députés veulent sécuriser l'utilisation de l'IA déjà largement répandue à l'Assemblée

Nicolas Bonnet l'a reconnu : il ne pensait pas que l'intelligence artificielle était déjà autant répandue à l'Assemblée nationale. "On s'est rendu compte qu'il y avait un large usage de l'IA au niveau des collaborateurs et des députés", a témoigné l'élu du groupe Écologiste et social, ce mercredi matin, lors d'une conférence de presse. Celle-ci était destinée à présenter le rapport sur "les usages et les besoins d’outils d’intelligence artificielle à l’Assemblée nationale" qu'il a rédigé avec son collègue du parti présidentiel Denis Masséglia (Ensemble pour la République).

Plus de 85 % des répondants à un questionnaire envoyé aux députés et à leurs collaborateurs affirment utiliser des outils d'intelligence artificielle. La moitié des répondants en font même un usage quotidien, et près de 40 % un usage hebdomadaire. Reformulation, synthèse de documents, recherches sur internet, compte-rendus de visioconférences ou traitement d'images... Les usages mis en avant sont divers et variés.

Tout le monde, dans les équipes, utilise l’intelligence artificielle, que ce soit ceux qui le disent ou ceux qui ne le disent pas. Une réponse au questionnaire envoyé dans le cadre du groupe de travail sur l'IA

À noter que ChatGPT règne sur les autres solutions utilisées. Quelque 63 % des répondants indiquent privilégier le modèle d'OpenAI, loin devant l'outil de la start-up française Mistral, Vibe (environ 18 %).

Un second questionnaire réalisé auprès des administrateurs et des rédacteurs de comptes rendus laisse entrevoir une utilisation moins poussée des outils d'IA, avec près de 30 % d'utilisateurs réguliers.

Prévenir les risques, notamment pour assurer la protection des données

Face à cette situation, et en l'absence d'un cadre spécifique, les deux députés alertent sur les risques en matière de protection des données. "On a vu qu'au moins une personne avait donné accès à une IA aux mails qui arrivaient dans sa boîte publique", a rapporté Nicolas Bonnet ce mercredi. Permettant à l'outil d'utiliser l'ensemble des données à sa disposition pour son entraînement, voire de les divulguer à un autre utilisateur. Autre risque évoqué par les élus : la transmission à une IA d'un rapport confidentiel, en vue de sa synthèse.

D'autres problèmes sont soulevés dans le rapport : les risques d'erreurs, de biais, de dépendance à ces outils et de perte de compétences, mais aussi l'impact environnemental. Concernant ce dernier point, l’IA "doit être réservée aux seuls usages pour lesquels elle présente la plus grande valeur ajoutée", soutiennent les élus dans leurs conclusions.

Il y a de l'usage de l'IA au sein de l'Assemblée qui peut être considéré comme problématique. Le sujet ce n'est pas d'interdire, mais de mettre à disposition des outils sécurisés. Denis Masséglia, député Ensemble pour la République

Pour prévenir les risques, les élus proposent de sensibiliser à court terme l'ensemble des députés et collaborateurs, en diffusant un recueil de conseils et bonnes pratiques. Une étape préalable à une formation généralisée, adaptée à leurs besoins et aux spécificités des travaux du Palais-Bourbon. "La plupart des risques relèvent plutôt d'une méconnaissance du fonctionnement de l'IA. Il faut monter tout le monde en compétence", a expliqué Denis Masséglia.

Dans un troisième temps, les auteurs du rapport préconisent de mettre à disposition des outils sécurisés permettant de répondre aux besoins des équipes et des administrateurs. Pas question de généraliser l'usage des versions payantes des IA génératives, davantage sécurisées, mais au coût trop important. "Par contre, on peut trouver des petits outils plus spécifiques aux travaux de l'Assemblée, qui permettraient d'améliorer le quotidien des députés et de leurs collaborateurs", a soutenu Nicolas Bonnet, évoquant par exemple un outil d'assistance à la rédaction d'amendements.