Alors que les application d’intelligence artificielle IA ont explosé aux yeux du grand public avec les grands modèles de language tels que ChatGPT d’OpenAI ou Bard de Google, l’Union Européenne travaille d’arrache pied pour construire un cadre juridique créant les garde-fous nécessaires aux risques potentiels de ces technologies, à l’instar du RGPD.
Les grands modèles de language comme ChatGPT sont des “intelligences” artificielles génératives qui camouflent bien leurs faiblesses. Pas si intelligentes que ça, elles ne discutent pas avec l’utilisateur ni ne cherchent à répondre à leurs questions : elles essaient de générer la suite de mots la plus probable en réaction à une consigne. Technologiquement impressionnantes, les dernières générations d’IA sont aussi faillibles et subordonnées à la qualité et la pertinence des usages qui en sont faits. Elles ouvrent la porte à nombre de dérives à travers certaines utilisations envisagées, contre lesquelles l’AI Act tente d’ériger des barrières.
IA “à haut risque” et “inacceptables”
L’annonce des travaux régulatoires a entraîné la sempiternelle levée de boucliers au secours de l’innovation avant que la Commission ne soulage les angoisses en annonçant que les mesures préventives ne s’appliqueraient qu’à 5 à 15% des applications.
Le projet du bloc créerait plusieurs catégories d’IA, dont deux seraient assorties de garde fous, voire d’interdictions : les applications dites “à haut risque” et celles considérées comme “inacceptables”. Ainsi, une IA qui scorerait les personnes sur un niveau perçu de fiabilité, considéré comme inacceptable, serait simplement interdite. Les applications “à haut risque”, touchant par exemple à la justice, au recrutement d’employés ou à la notation d’examens, seront scrutées d’autant plus près qu’elles devront passer plusieurs contrôles pour être autorisées.
Les yeux rivés sur l’Europe
Le projet avance mais tout n’est pas encore prêt : certains sujets sont encore en discussion et des points de crispation persistent. Le parlement pousse encore pour ajouter l’interdiction d’utiliser les intelligences artificielles pour prédire le potentiel de criminalité d’une personne ou d’une zone géographique précise, préférant conserver Minority Report dans les étagères à DVD. La question non-reglée de l’interdiction des systèmes de reconnaissance faciale assistés par IA est soutenue par l’Allemagne alors que la France a annoncé son intention d’y avoir recours pour assurer la sécurité des Jeux Olympiques de 2024.
S’il reste certaines étapes à franchir avant la mise en ligne du texte, celui-çi pourrait, dans la lignée du RGPD, devenir un modèle global, d’autres pays attendant de voir si le régulateur européen réussit à créer un cadre cohérent pour cette nouvelle technologie. Un nouvel effet Bruxelles ? Possible selon Marc Rotenberg, président du Center for AI and Digital Policy aux Etats-Unis : “les sociétés américaines finiront également par réhausser leurs normes de transparence et d’accessibilité pour les consommateurs américains”.
