LA TRIBUNE DIMANCHE- L'Union européenne a validé dans la nuit de vendredi à samedi l'IA Act, qui est la première grande loi au monde sur l'intelligence artificielle. Pourquoi était-elle nécessaire ?

THIERRY BRETON - L'intelligence artificielle est une vraie révolution technologique. Elle change déjà nos vies et nos économies depuis une dizaine d'années mais nous ne sommes qu'au début de son immense potentiel transformateur. L'arrivée de l'IA générative, avec des logiciels comme ChatGPT qui produisent du langage, des images, des sons, du code ou des vidéos en quelques secondes, va encore accélérer ces bouleversements. Mais on ne peut pas laisser aux entreprises qui développent leurs systèmes le soin de définir elles-mêmes les règles encadrant leurs activités quand celles-ci touchent à l'intérêt général. Il faut des repères, des cadres clairs. Définir ce qui est souhaitable et conforme à nos valeurs, et interdire ce qui ne l'est pas.

Proposer une régulation de l'IA est un énorme chantier qui s'est étalé sur quatre ans, qui a nécessité des centaines de consultations de la société civile et du monde économique et scientifique et un travail étroit avec l'ensemble des Etats membres. L'accord politique conclu samedi au terme de 38 heures d'échanges est donc historique. Je pense que le texte que nous avons finalisé est une grande réussite car il trouve le point d'équilibre entre d'un côté la préservation de l'état de droit et des libertés fondamentales propres à nos démocraties, et, de l'autre, le développement de l'innovation.

Quels usages de l'IA seront interdits en Europe ?

L'IA Act prône une régulation par le risque. Les usages sont classés en quatre catégories, selon le danger potentiel qu'ils présentent. Parmi les interdictions figurent notamment le « social scoring », c'est-à-dire le fait d'utiliser l'IA pour surveiller les individus tout le long de leur vie et en déduire ce qu'ils peuvent faire ou pas. Cela se pratique dans certains pays du monde, en Chine par exemple, mais c'est inacceptable dans un état de droit. Le Parlement européen a aussi été très attentif à ne pas pouvoir utiliser l'IA pour réaliser des contrôles a priori sur des personnes et en déduire leur comportement à venir, comme dans le film Minority report.

Quels sont ceux qui seront limités ?

L'UE exige des précautions particulières en termes de sécurité, de transparence et de supervision humaine pour développer des modèles dans les domaines de la santé, de l'éducation ou du recrutement, afin d'éviter que l'IA puisse prendre le dessus sur l'humain. Pour les systèmes à haut risque, un système de marquage CE va être imposé, c'est-à-dire qu'il va falloir se soumettre à une évaluation de conformité et obtenir un label, exactement comme tous les produits accessibles sur le marché européen.

Et pour le reste ?

Ce qui n'est pas interdit ou soumis à des exigences spécifiques doit simplement obéir à certains principes de transparence et respecter les règles déjà en vigueur sur l'utilisation des données personnelles. Ces précautions ne sont pas anti-business, comme j'ai pu l'entendre. Elles visent juste la préservation des règles qui fondent notre État de droit et l'intérêt général.

Le texte a été très attaqué, notamment par la France, car il fixerait trop de contraintes pour innover dans l'IA générative, où la compétition mondiale fait rage. Quel compromis avez-vous trouvé ?

Je tiens à être très clair : il n'y aura aucune contrainte pour la recherche et le développement des larges modèles. Lorsqu'ils sont mis sur le marché, les modèles devront seulement remplir des obligations de transparence ou d'information sur leurs données d'entraînement. Ce n'est que lorsqu'ils deviennent systémiques, c'est-à-dire au-dessus de 10 puissance 25 flops [une unité de mesure de la puissance informatique, ndlr], qu'ils seront soumis à des règles précises de prévention des risques. Aujourd'hui, seuls GPT4 d'OpenAI et peut-être Gemini de Google, atteignent cette puissance.

Concrètement, cela veut dire que les startups européennes de l'IA générative pourront se développer sans entrave, comme les startups américaines ?

Oui. L'IA Act est pro-innovation et pro-business. L'Europe va devenir le meilleur endroit au monde pour faire de l'intelligence artificielle, car nous avons les trois ingrédients cruciaux nécessaires. Le premier est l'accès aux données : nous avons mis en place un marché intérieur du numérique européen dans lequel les données circulent et sont accessibles. Le deuxième est la puissance de calcul : l'UE dispose de la plus importante au monde à travers ses 8 supercalculateurs EuroHPC et deux superordinateurs exaflopiques à venir, dont la puissance va être mise au service des startups et des acteurs industriels. Enfin, le troisième pilier, ce sont les algorithmes, et la qualité de la recherche européenne n'est plus à démontrer.

Dans ce cas, pourquoi le ministre du Numérique, Jean-Noël Barrot, s'est-il montré mitigé sur l'accord obtenu ? Il a qualifié samedi le texte « d'étape » et encore pointé les risques sur l'innovation.

Les Etats membres n'ont pas encore eu connaissance du texte final issu du trilogue. Je ne doute pas que quand ce sera le cas, certains avis vont évoluer. Le Parlement a, un moment, défendu une position trop radicale sur le contrôle des très larges modèles de langage. Un certain nombre d'États membres dont la France et l'Allemagne, à qui je rends hommage, ont réagi pour rétablir l'équilibre. Je le dis clairement : ils ont été entendus. Ils avaient raison.

Ce texte n'est donc pas une « étape » ?

Si les négociations ont duré 38 heures et se sont terminées à minuit vendredi, c'est que les colégislateurs -le Parlement, le Conseil et la Commission européenne- ont souhaité que chaque article fasse l'objet d'un examen approfondi et définitif, y compris dans ses aspects techniques. Le texte a donc été agréé ; il n'est plus ouvert à la discussion. C'est une étape dans le sens où un vote final doit maintenant avoir lieu au Parlement et au Conseil au premier trimestre 2024, pour une application totale de la loi dès 2026.

Quid des systèmes d'IA utilisés lors d'évènements majeurs comme les Jeux Olympiques de Paris, qui font l'objet de vives critiques ?

Nous avons trouvé un bon compromis sur l'usage de ces applications dans l'espace public. L'IA Act tient compte des préoccupations des gouvernements et a prévu des exemptions pour la Défense et la sécurité nationale.

Quels seront les moyens d'application et de sanctions en cas de violation de ces règles ?

Pour les grands acteurs, les sanctions prévues sont lourdes avec des amendes qui pourront atteindre 7% du chiffre d'affaires mondial ou 35 millions d'euros. Pour les PME, ce sera le plus bas de ces deux chiffres. La surveillance sera duale, à la fois par les autorités nationales, et par un AI Office qui sera placé sous l'autorité de mes services quand cela concerne les modèles systémiques.

Comment avez-vous géré les lobbys ?

Les lobbys défendent leurs intérêts particuliers, ce qui est normal, mais ce qui ne coïncide pas toujours avec l'intérêt général européen. Il faut veiller à ce qu'ils ne dictent pas leur loi aux politiques et aux élus, qui ont la charge d'établir les règles. Durant tout le processus législatif, j'ai eu un très grand nombre d'interactions avec les entreprises, les lobbys, les ONG, les scientifiques et toutes les parties prenantes. Les discussions ont été franches. Et, au final, c'est notre démocratie qui s'est exprimée.

Pensez-vous que l'IA Act fera jurisprudence dans le monde entier ?

Tous les grands pays ont pris conscience de la nécessité de fixer des règles et des limites. La difficulté est partout la même : trouver le nécessaire équilibre entre les attentes du secteur privé, qui veut le plus de libertés possibles, et l'intérêt général qui exige de fixer des garde-fous à un domaine potentiellement à risque pour l'humanité. Outre-Atlantique, le même débat a lieu, mais leur cadre démocratique n'est pas le même puisque la Chambre des représentants et le Sénat ne sont pas alignés. Aux États-Unis, un accord politique sur la régulation de l'IA n'est aujourd'hui pas possible.

L'UE, elle, a réussi. La négociation a duré quatre ans, c'était un défi de trouver un compromis entre toutes les parties prenantes : les États membres, les entreprises, les ONG, les partenaires sociaux... Mais nous y sommes parvenus. C'est la force de l'UE. Donc si d'autres pays veulent s'inspirer de l'IA Act européen, ils sont les bienvenus. Mais désormais, les entreprises du monde entier vont devoir s'adapter aux règles européennes si elles veulent introduire leur produit sur le marché intérieur européen, fort de ses 450 millions de citoyens.

Ce texte arrive à la fin de votre mandat au Marché intérieur. Quel bilan en tirez-vous à six mois des élections européennes ?

Mon mandat dure encore un an et il nous reste encore beaucoup à faire. Dans la défense, avec un programme de renforcement des capacités industrielles, dans le spatial, ou dans les télécoms où nous allons publier notre livre blanc sur les infrastructures des réseaux au premier trimestre. Sur le bilan de mon action, je crois que nous avons réussi à rendre l'Europe plus résistante, plus autonome, et moins naïve que par le passé, et nous avons pris à bras le corps les sujets de l'industrie, des emplois de demain et des technologies propres pour rendre l'Europe plus innovante dans la transition verte et numérique.

Il reste un chantier essentiel, qui n'est pas dans mon portefeuille, mais que j'appelle de mes vœux, construire un marché européen des capitaux unifiés, indispensable pour financer la croissance de nos entreprises et plus particulièrement des startups européennes. C'est la dernière brique qui nous manque pour devenir compétitifs et attirer les investisseurs privés dans le monde de demain. Un chantier pour les cinq années à venir.