L’IA peut-elle devenir incontrôlable? Pourquoi l’Europe veut imposer ses règles aux géants américains

L’intelligence artificielle va-t-elle soumettre les humains ? Ce n’est pas le dilemme d’un scénario de science-fiction mais l’inquiétude que font planer les déclarations de certains acteurs du secteur de la tech outre-Atlantique. Début septembre, l’un des responsables de la sûreté d’Anthropic, géant américain de l'intelligence artificielle, a assuré qu’il y avait 10% de chances que l’IA détruise l’humanité d’ici à 10 ans.

En juin dernier, l’une des intelligences artificielles du groupe Open AI a même échappé au contrôle de l’entreprise et piraté les bases de données de santé du gouvernement australien. Les autorités de Canberra n’ont été prévenues de cette attaque que trois mois plus tard. De quoi semer un vent de panique sur la planète, y compris au sein de l’Union européenne où la régulation de ces technologies numériques est une préoccupation forte.

"Un modèle économique fondé sur la remise en question de l’intérêt général"

"Je pense qu'il y a un vrai risque existentiel pour notre civilisation, pour la démocratie, pour l'intérêt général, lié à la surpuissance de ces entreprises, “les big tech”, qui déclinent notamment leur puissance par des outils IA, mais je ne crois pas du tout à un scénario Terminator", réagit David Cormand, eurodéputé écologiste français, sur le plateau de l’émission Ici l’Europe, diffusée sur France 24, LCP et Public Sénat.

"En fait, quand vous avez des entreprises qui sont capitalisées à hauteur de plusieurs milliers de milliards de dollars, il faut bien comprendre que leur modèle économique repose forcément sur l'accaparement des droits et la remise en question de l'intérêt général", juge-t-il. "Le modèle économique de ces firmes c'est d'imposer un modèle économique de rente sur lequel ces firmes auraient un contrôle total."

Le développement accéléré de l’intelligence artificielle dans notre économie pose des questions de fiscalité et de redistribution des richesses, selon l’eurodéputé belge du groupe centriste Renew, Yvan Verougstraete, président du parti centriste Les Engagés, en Belgique. "Si l'ensemble de la valeur ajoutée créée par l’intelligence artificielle va en Irlande, puis dans un paradis fiscal, on risque de faire chuter la totalité de notre modèle social, et c'est un vrai danger pour la solidarité".

Son homologue écologiste dénonce, lui aussi, la puissance des géants de la tech, qui, selon lui, cherchent à construire des monopoles et à capter les richesses grâce à l'intelligence artificielle. "Ces firmes échappent à la fiscalité et quelque part à la règle commune. Elles se substituent aux États, ont accès à nos infrastructures stratégiques et aux données de nos citoyens", alerte David Cormand, pour qui le déséquilibre entre les puissances économiques et l'intérêt général n'a jamais été aussi important.

Un règlement européen pour lutter contre les dérives liées à l’usage de l’IA

Pour protéger les citoyens européens des dérives liées à l’usage de l'intelligence artificielle, l’UE a adopté il y a deux ans le règlement européen sur l’IA (AI act en anglais) un texte qui interdit par exemple de manipuler les utilisateurs, de profiter de la vulnérabilité des jeunes et des personnes en situation de handicap. Ce règlement européen sur l’IA classe les niveaux de risque des usages de l’IA, cela va de l’assistant de conversation sans risque à l’interdiction de noter socialement les individus ou d’utiliser en temps réel leurs données biométriques.

David Cormand rappelle que l’Union européenne a adopté plusieurs réglementations sur le numérique entre 2019 et 2024, notamment pour encadrer l’intelligence artificielle et les géants de la tech. Mais il dénonce aujourd’hui un recul de la Commission européenne : "Ursula von der Leyen [...] propose des paquets législatifs baptisés Omnibus qui visent à revenir sur ces réglementations".

Des amendes aux entreprises réfractaires jusqu’à 7% de leur chiffre d’affaires

Le règlement européen sur l’intelligence artificielle prévoit pour les entreprises qui ne le respectent pas des amendes pouvant aller jusqu’à 7% de leur chiffre d’affaires mondial. "Une législation sans sanctions, c'est comme du vent sans voiles. Aujourd'hui, les sanctions qui sont prises sont beaucoup trop lentes, beaucoup trop faibles", commente Yvan Verougstraete. "On fait des investigations pendant 6 mois, 1 an, 2 ans, 3 ans... 3 ans dans la tech, c'est une éternité ! Il faut qu'aujourd'hui cette législation, si on veut qu'elle soit crédible, on l'applique avec beaucoup plus de rigueur, y compris les sanctions."

Sanctionner les géants américains de l’IA, quitte à subir une nouvelle fois les foudres commerciales de Donald Trump qui ne veut surtout pas réguler leur activité. "Si nos règlements énervent Donald Trump c’est peut-être une raison de plus pour les faire", estime l'eurodéputé belge. "Vous savez sur sa casquette ce n’est pas marqué “Make Europe great again” (Retrouver la grandeur de l’Europe). Son objectif n’est pas de s’occuper du bien commun…"