Groupe La Française I Crédit Mutuel AM - L’enjeux d’une Intelligence Artificielle responsable

Les freins à l’adoption de l’IA :

Parfois présentée comme la 4^ème révolution industrielle (après celle de l’internet), l’Intelligence Artificielle (IA) constitue un important vecteur d’amélioration de la productivité.

Vincent GOUSSARD, Analyste, pôle de recherche crédit et ESG, Crédit Mutuel Asset Management

Si le champ des possibles qu’elle offre n’est pas encore pleinement intégré dans tous les modèles d’affaires, son essor suscite des inquiétudes légitimes. En effet, selon des données récentes d’Eurostat^[1], les questions et incertitudes liées à la réglementation de son usage figurent en bonne place parmi les principaux freins à l’adoption par les entreprises de plus de 250 employés dans l’Union Européenne.

Ces données mettent en lumière le besoin, pour l’IA, de se développer dans un cadre sécurisé. Les risques juridiques et réglementaires présentés par l’IA, y compris ceux ayant trait à la propriété intellectuelle, à la protection des données, à la vie privée et à l’éthique, peuvent être regroupés sous le chapeau de la gouvernance de l’IA, c’est-à-dire de l’ensemble des processus et des normes qui permettent d’en garantir une utilisation sécurisée et l’éthique^[2]. Une bonne gouvernance de l’IA est susceptible d’en favoriser l’adoption.

Le besoin de gouvernance : AI Act

En l’absence d’une gouvernance mondiale, l’Union Européenne (UE) a instauré le 1^er règlement sur l’IA (AI Act^[3]) en juin 2024 pour une application progressive jusqu’en décembre 2030. Ce règlement a pour objectif de garantir une utilisation de l’IA qui soit sûre, éthique, transparente et respectueuse des droits fondamentaux. Pour cela, les usages de l’IA ont été catégorisés par niveaux de risque (minimal, limité, élevé, inacceptable) et associés à des obligations destinées à réduire voire supprimer, ces derniers. L’UE a poussé très loin le champ d’application de l’AI Act afin que la nature numérique de l’IA ne permette pas de contourner ce règlement. L’AI Act vise non seulement les fournisseurs et entités utilisatrices de systèmes d’IA implantés dans l’UE mais également ceux dont les « sorties », produites par des systèmes d’IA, sont utilisées dans l’UE. L’expression de « sorties », où « output » en anglais, fait figure de filet dérivant ; ce terme étant suffisamment vague pour capturer un large spectre de situations : « des prévisions, du contenu, des recommandations ou des décisions ».

Pour éviter que les IA ne fonctionnent à la manière de boîtes noires, l’AI Act vise principalement à protéger les citoyens européens contre une utilisation biaisée en leur garantissant la transparence et traçabilité du processus d’inférence qui doit, par ailleurs, rester sous supervision humaine. Appliquée au domaine des ressources humaines, un usage considéré comme à « risque élevé », cette réglementation vise à obliger une entreprise qui utiliserait un système d’IA pour trier des candidatures, d’en informer les postulants et d’être en mesure d’expliquer le fonctionnement de l’algorithme utilisé. Par ailleurs, afin de prévenir la survenance d’éventuels disfonctionnements, tels que des « hallucinations »^[4], l’ensemble du processus doit être réalisé sous supervision humaine.

Si elle pose les bases d’une gouvernance de l’IA, cette réglementation n’est pas exempte de critiques. Pour les plus libéraux, au sens économique du terme, sa complexité et son coût pourraient constituer des freins à l’innovation. Et ce, d’autant plus que ces nouvelles obligations doivent s’intégrer aux obligations préexistantes : les droits fondamentaux, la protection des données à caractère personnelles, la protection des consommateurs ou encore la protection de la propriété intellectuelle. Pour d’autres, plus sensibles au respect des droits de la personne, elle est jugée encore trop laxiste et sa mise en place, trop lente.

Intérêt d’une gouvernance mondiale

L’extraterritorialité de l’AI Act et l’importance des amendes auxquelles pourraient être exposées les sociétés (jusqu’à 7 % du chiffre d’affaires mondial pour des utilisations interdites) sont de nature à interférer avec les intérêts d’autres zones économiques. Ainsi, l’administration américaine actuelle qui a, par ailleurs, relâché la bride aux fournisseurs d’IA au motif qu’il ne faut pas freiner l’innovation^[5], fait également pression, selon Bloomberg, sur les autorités européennes pour qu’elles abandonnent le Code de bonnes pratiques en matière d’IA à usage général^[6], attendu , d’ici le mois d’août. Sans caractère contraignant, ce document, corédigé par différentes parties prenantes, dont les fournisseurs de modèles d’IA eux-mêmes, détaille les bonnes pratiques à adopter.

Ce rapport de force illustre la nécessité de s’accorder pour éviter qu’une juxtaposition de règles et standards nationaux ne finisse par entraver le développement de l’IA. Toutefois, compte tenu des biais culturels et idéologiques existants, il est probable qu’un modèle de gouvernance mondial de l’IA ne puisse être déterminé que sur la base du plus petit dénominateur commun. C’est le rôle qui semble avoir été dévolu au Pacte Numérique Mondial^[7] (Global Digital Compact), adopté par 193 pays lors du Sommet de l’Avenir qui s’est tenu en septembre 2024. Tout comme son ainé (UN Global Compact) avait vocation à faire progresser les droits de l’homme, les normes du travail, la gestion de l’environnement et la lutte contre la corruption, le Pacte Numérique Mondial a vocation à « définir des principes partagés pour un avenir numérique ouvert, libre et sécurisé pour tous »^[8]. En son sein, le comité intelligence artificielle vise à « renforcer la gouvernance internationale des données et réguler l'IA pour le bien de l'humanité ».

Conclusion

Dans son ouvrage « 1984 », Georges Orwell met en scène un monde où les citoyens sont sous la surveillance constante d’un pouvoir autoritaire, représenté par la figure de Big Brother. A l’heure du tout numérique, les empreintes digitales que nous laissons, combinées aux avancées de l’IA, exposent chaque citoyen / consommateur à un traitement équivalent. Pour éviter que la dystopie orwellienne ne se transforme en réalité, il apparait nécessaire de réguler l’utilisation de cette technologie. La notion d’investissement responsable implique donc de s’assurer que les entreprises qui créent ces systèmes d’IA et celles qui les déploient mettent en place des « pare-feux » opérationnels adéquats sous la supervision d’organes de gouvernance disposant des compétences pour comprendre ces enjeux et pour réduire les risques qui leurs sont liés.

Par Vincent GOUSSARD, Analyste, pôle de recherche crédit et ESG, Crédit Mutuel Asset Management

Le présent commentaire est fourni à titre informatif uniquement. Les opinions exprimées par le groupe La Française sont fondées sur les conditions actuelles de marché et sont susceptibles d'évoluer sans préavis. Les informations contenues dans cette publication sont basées sur des sources considérées comme fiables, mais le groupe La Française ne garantit pas qu'elles soient exactes, complètes, valides ou à propos. Publié par La Française Finance Services, dont le siège social est situé 128 boulevard Raspail, 75006 Paris, France, société réglementée par l'Autorité de Contrôle Prudentiel en tant que prestataire de services d'investissement, n° 18673 X, filiale de La Française. Crédit Mutuel Asset Management : 128 boulevard Raspail 75006 Paris est une société de gestion agréée par l'Autorité des marchés financiers sous le n° GP 97 138 et enregistrée à l’ORIAS (www.orias.fr) sous le n° 25003045 depuis le 11/04/2025. Société Anonyme au capital de 3 871 680 €, RCS Paris n° 388 555 021, Crédit Mutuel Asset Management est une filiale du Groupe La Française, holding de gestion d'actifs du Crédit Mutuel Alliance Fédérale.

Footnotes :

1. Eurostat, [isoc_eb_ai] Artificial intelligence by size class of enterprise ; données 2024

2. Largest companies view AI as a risk multiplier: From cybersecurity, regulatory, and competition to reputation, ethics, and intellectual property. Deloitte* and USC Marshall School of Business. Octobre 2024

3. Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 (règlement sur l’intelligence artificielle)Texte présentant de l'intérêt pour l'EEE.

4. Situation dans laquelle une IA générative fournit des réponses erronées ou inadaptées, en raison de biais dans ses calculs ou dans ses bases de données. (assemblee-nationale.fr/dyn/opendata/RINFANR5L16B2207.html)

5. Removing Barriers to American Leadership in Artificial Intelligence – The White House

6. Code de bonnes pratiques en matière d’IA à usage général | Bâtir l’avenir numérique de l’Europe

7. Pacte Numérique Mondial

8. Pacte numérique Mondial | Bureau des technologies numériques et émergentes