La course à la formulation de lois sur l'intelligence artificielle
Un instantané d'un événement technique auquel Sam Altman, PDG d'OpenAI, a participé à Tel Aviv, Israël, juin 2023 (Reuters)
L'Europe devance l'Amérique et la Chine pour diverses raisons
L'intelligence artificielle balaie le monde avec un succès sans précédent. ChatGPT et d'autres nouvelles technologies d'IA ont le potentiel de révolutionner la façon dont les gens travaillent et interagissent avec les informations, et entre eux. Au mieux, ces technologies ouvrent de nouveaux horizons de connaissance et de productivité pour les humains, changeant l'état des marchés du travail, remodelant les systèmes économiques et portant l'économie et la société à des niveaux de croissance et de progrès sans précédent.
Dans le même temps, le rythme rapide du développement de l'intelligence artificielle inquiète à la fois les experts en technologie, les citoyens et les organes législatifs. Même les personnes les plus averties en matière de technologie mettent en garde contre l'IA non réglementée et la façon dont elle entraîne des dommages irréversibles, ce qui pose de graves menaces pour les individus et les sociétés. Cela inclut des personnalités telles que le PDG d'OpenAI, Sam Altman, et le co-fondateur d'Apple, Steve Wozniak. Le pire scénario est que l'IA anéantira les marchés du travail et transformera les humains en un quantum inutile, ou dans le scénario le plus extrême, anéantira l'humanité.
Alors que les entreprises technologiques se précipitent pour renforcer les capacités de l'IA au milieu de critiques et d'un examen minutieux, Washington fait face à une pression croissante pour élaborer une législation dédiée à la réglementation de l'industrie de l'IA, tout en évitant d'étouffer l'innovation.
Depuis les temps anciens, divers modèles juridiques ont commencé à émerger aux États-Unis, en Chine et en Europe, et ils semblent être enracinés dans des valeurs et des incitations distinctes. Non seulement ces différentes approches vont remodeler les marchés locaux, mais elles guideront aussi de plus en plus l'expansion des empires numériques américain, chinois et européen, chacun offrant une vision concurrente de l'économie numérique mondiale tout en essayant d'étendre son influence dans le domaine numérique.
Alors que la course à la domination de l'IA s'intensifie, la manière dont les pays choisissent de contrôler l'IA aura un impact profond sur l'avenir de la technologie et de la société. Et à Washington, le débat sur la législation sur l'IA est arrivé à son point culminant : les États-Unis ne peuvent plus rester les bras croisés pendant que la Chine et l'Europe prennent des décisions sur ces questions fondamentales pour le monde.
empires numériques
En termes de réglementation liée à la régulation du monde numérique, les États-Unis adoptent une approche axée sur le marché, la Chine développe une approche dirigée par l'État et l'Union européenne adopte une approche axée sur les droits.
Le modèle américain exprime une croyance ferme dans les marchés et maintient un rôle limité pour le gouvernement centré sur la protection de la liberté d'expression, de la liberté d'Internet et des incitations à l'innovation, alors que Washington considère les technologies numériques comme une source de prospérité économique et de liberté politique, et les voit ensuite comme un outil de transformation et de progrès sociétal, notamment dans sa réticence à poser des limites à l'intelligence artificielle. L'approche américaine de la législation sur l'IA est largement inspirée par un optimisme technique inébranlable et une poursuite incessante de l'innovation et du progrès technologique, les entreprises technologiques américaines étant vénérées comme les moteurs de ce progrès.
Ainsi, Washington considère l'intelligence artificielle comme une opportunité de faire progresser la croissance économique des États-Unis et de consolider sa supériorité dans ses aspects technologiques et militaires au milieu d'une concurrence technologique croissante entre les États-Unis et la Chine et de l'escalade des tensions géopolitiques. Ainsi, la concentration absolue de Washington sur la seule suprématie économique et géopolitique a fait du processus d'établissement de règles régulant ce domaine une simple question secondaire ou une mesure de rattrapage retardée. En conséquence, les États-Unis n'ont créé aucune législation fédérale substantielle sur l'IA, proposant simplement des normes volontaires que les entreprises technologiques peuvent choisir d'adopter ou d'ignorer.
D'éminents décideurs politiques, dont Lina Khan, présidente de la Federal Trade Commission des États-Unis, ont averti que laisser la réglementation de l'IA entre les mains des entreprises pourrait avoir un coût élevé. Khan a noté l'importance cruciale de la réglementation gouvernementale pour garantir que tout le monde bénéficie de la technologie de l'IA. Malheureusement, une réglementation complète de l'IA reste insaisissable aux États-Unis, étant donné le Congrès politiquement dysfonctionnel et les craintes persistantes des décideurs politiques qu'une telle législation soit susceptible de nuire à l'innovation et de saper le leadership technologique américain.
En revanche, la Chine a adopté une approche étatique de la réglementation numérique, dans le cadre d'un effort ambitieux visant à faire de la Chine la première superpuissance technologique au monde. De même, l'approche pratique de Pékin pour gérer l'économie numérique vise à resserrer l'emprise politique du Parti communiste chinois en diffusant les technologies numériques comme outil de censure, de surveillance et de propagande dans une perspective unique. Ainsi, le gouvernement chinois a facilité la croissance précoce de l'industrie technologique nationale. Cependant, ces dernières années, Pékin a lancé une répression stricte et préventive de son secteur technologique sous prétexte de promouvoir la « prospérité partagée » et afin d'empêcher la domination des géants de la technologie sur l'État chinois.
Reconnaissant les avantages économiques et politiques potentiels de l'intelligence artificielle, le gouvernement chinois subventionne fortement de nouveaux outils qui améliorent ses capacités de surveillance de masse de ses citoyens au nom du maintien de la stabilité sociale. Par extension, le régime autoritaire de la technologie en Chine incite le pays à rédiger des réglementations sur l'intelligence artificielle. Par exemple, bien que la technologie de reconnaissance faciale assistée par l'IA aide les efforts de Pékin pour exercer un contrôle politique, l'IA générative , telle que Chat GPT, peut saper ce contrôle. On sait que l'IA générative repose sur de grandes quantités de données, et cette technologie continue d'évoluer à mesure qu'elle se répand. Cette évolution constitue donc un nouveau défi pour le système de censure chinois, qui risque d'avoir de grandes difficultés à suivre son rythme et à lui résister.
La manière dont les pays choisissent de contrôler l'IA affectera profondément l'avenir de la technologie et de la société
Face à ces défis potentiels, Pékin est déterminé à ne pas laisser les capacités d'intelligence artificielle du pays échapper à son emprise. En 2022, le gouvernement chinois a introduit des lois réglementaires qui ont représenté une étape importante dans ce domaine, car ces lois ciblaient des techniques de falsification profonde et des algorithmes de recommandation [c'est-à-dire des équations mathématiques automatisées qui fonctionnent pour suggérer du contenu en filtrant les informations liées au comportement numérique de l'utilisateur pour s'attendre à ce qu'il puisse aimer un produit spécifique, donc il le recommande]. Une telle législation menace de saper les droits fondamentaux des citoyens chinois et leur confiance dans les technologies numériques, et annonce également la prise de contrôle par le PCC de l'économie numérique chinoise.
Une présentation sur l'intelligence artificielle lors d'une exposition à Pékin sur la sécurité et la sûreté publique, en octobre 2018 (Reuters)
En avril, le gouvernement a publié un projet de règlement sur l'IA générative qui tiendrait les développeurs responsables des contenus interdits ou illégaux, y compris les contenus qui s'écartent des valeurs politiques du Parti communiste chinois.
Ainsi, ces développements législatifs indiquent que le gouvernement chinois s'est engagé à diriger l'avenir de l'IA du pays d'une main ferme, en encourageant le progrès technologique tout en veillant à ce que l'IA ne compromette pas la stabilité sociale et le contrôle politique du Parti communiste chinois.
Dans une autre voie, l'Union européenne s'est éloignée à la fois des États-Unis et de la Chine dans son leadership en créant son propre modèle législatif, axé sur les droits des utilisateurs et des citoyens. D'un point de vue européen, l'IA annonce une transformation numérique au potentiel perturbateur qui ne doit pas être laissée aux caprices des entreprises technologiques, mais doit au contraire être fermement ancrée dans l'État de droit et la gouvernance démocratique. Sur le terrain, cela signifie que les gouvernements doivent intervenir dans l'intérêt du respect des droits fondamentaux des individus, de la préservation des structures démocratiques de la société et de la juste répartition des bénéfices découlant de l'économie numérique.
En fait, depuis longtemps, cette approche européenne fondée sur les droits s'est exprimée sous la forme de règles législatives européennes innovantes, notamment le règlement général européen sur la protection des données, qui protège la confidentialité des données des citoyens. [Le système européen de protection des données a été créé en 2016 et était basé sur les principes contenus dans le mémorandum sur la protection des données de 1995, en plus d'un ensemble de lois, y compris la législation sur le transfert de données des géants américains de la technologie, depuis le territoire de l'Union continentale aux États-Unis].
L'Union européenne a également adopté récemment la loi sur les marchés numériques, qui impose des obligations aux «gardiens du numérique», comme on les appelle, y compris les géants américains de la technologie, dans le but de limiter leur domination et de protéger la concurrence. L'Union européenne a également introduit la loi sur les services numériques, qui établit des règles pour que les plateformes en ligne soient tenues responsables du contenu qu'elles hébergent. En fait, les développements de l'intelligence artificielle poussent l'Europe plus loin dans cette direction.
Enfin, les législateurs européens ont adopté un projet de loi radical appelé AI Act qui vise à atténuer les dangers posés par l'IA et à garantir la protection des droits fondamentaux des personnes . En vertu du projet de loi, qui devrait être achevé d'ici la fin de cette année, les systèmes d'intelligence artificielle qui exploitent les vulnérabilités individuelles ou manipulent le comportement humain seront interdits. Il interdira également la "police prédictive" [algorithmes spécialisés dans l'utilisation de données disponibles sur Internet pour prédire les crimes et révéler l'identité de présumés criminels], en plus d'empêcher l'utilisation de la technologie de reconnaissance faciale en temps réel dans les lieux publics car elle menace les droits et libertés fondamentaux et place de larges segments de la population sous surveillance.
Pour terminer, seul un moment sépare l'adoption par l'Union européenne de la loi sur l'intelligence artificielle et le lancement de la société "Open AI" au public, "Chat GBT" en novembre 2022, car cette dernière étape a conduit les législateurs européens à faire face à une épineuse défi concernant Comment formuler une loi sur un type d'intelligence artificielle qui soit générale et non spécifique, c'est-à-dire qu'elle puisse être exploitée pour atteindre à la fois des objectifs extrêmement dangereux et des objectifs sûrs. Il n'est pas inconcevable que cette question domine les dernières étapes du processus législatif, mais le Parlement européen a précédemment indiqué que l'IA générative doit se conformer à diverses exigences de transparence, déclarant qu'elle devrait être conçue de manière à la dissuader de violer les droits fondamentaux ou créer du contenu illégal. Une fois cette législation contraignante achevée, elle deviendra la première réglementation complète sur l'IA au monde.
Ni le marché ni l'État
La différence de vision de Washington, Pékin et Bruxelles concernant l'ère de l'intelligence artificielle constitue une étape majeure dans la construction en cours de trois « empires numériques » distincts qui se disputent le contrôle de l'avenir de la technologie et tentent d'élargir les sphères d'influence dans le numérique. monde, tandis que d'autres pays recherchent des conseils concernant la législation sur l'intelligence artificielle. .
La promesse de l'IA d'alimenter le progrès technologique et la croissance économique, ainsi que les défis de la réglementation d'une technologie en évolution rapide, conduiront probablement certains gouvernements à opter pour des orientations volontaires, comme les États-Unis. Le modèle américain axé sur le marché a généré d'énormes richesses et alimenté des avancées technologiques qui lui font envie. Dans le même temps, les conséquences de l'absence de lois réglementant le travail des entreprises technologiques américaines deviennent de plus en plus claires, alors que Washington ignore de nombreuses défaillances du marché, ce qui a provoqué des abus répétés de pouvoir de marché de la part d'entreprises technologiques de premier plan telles que Google, qui monopolise les technologies de publicité numérique sur le compte des concurrents. Ces déséquilibres du marché, ainsi que la propagation de la désinformation et des scandales entourant l'exploitation des données personnelles des utilisateurs par les entreprises technologiques, alimentent une méfiance croissante et généralisée à l'égard des entreprises technologiques. Afin de réduire l'énorme pouvoir que les entreprises technologiques américaines exercent sur les internautes étrangers, les gouvernements du monde entier cherchent désormais à reprendre le contrôle de leurs marchés numériques et à maîtriser les principales entreprises technologiques. Le public américain et les législateurs américains de tous les horizons politiques demandent maintenant une plus grande surveillance gouvernementale de l'industrie technologique.
Washington doit être décisif dans sa volonté de jouer un rôle dans la construction du monde numérique de demain
Alors que l'attrait de l'approche américaine s'estompe, le modèle étatique chinois gagne en force. La Chine s'est déjà lancée dans la construction de la route de la soie numérique etExporter des technologies de surveillance basées sur l'IA et d'autres infrastructures numériques vers les gouvernements du monde entier. Les gouvernements autoritaires sont attirés par le modèle chinois en raison de la capacité éprouvée de Pékin à combiner innovation naissante et contrôle politique. Mais l'IA générative pourrait changer d'avis, montrant qu'un contrôle plus strict conduit à moins d'innovation. Malgré son leadership mondial dans les technologies de surveillance basées sur l'IA, la Chine est toujours en retard sur les États-Unis dans le développement de systèmes d'IA génératifs. Cela est dû en partie aux lois de censure du pays qui limitent les données que les entreprises sont autorisées à utiliser pour former des modèles intelligents génératifs, ce qui suggère que la liberté d'Internet peut mieux servir l'innovation et la croissance économique, du moins dans cette catégorie de technologie numérique.
Si le modèle de marché américain semble trop permissif et le modèle chinois dirigé par l'État trop contraignant, peut-être que l'approche européenne est une alternative appropriée, c'est-à-dire une troisième approche qui cherche à contrôler le pouvoir des entreprises tout en protégeant les droits fondamentaux et en préservant les institutions démocratiques . Au milieu de la réaction croissante contre les entreprises technologiques américaines, les gouvernements du monde entier, y compris ceux de l'Australie, du Brésil, du Canada et de la Corée du Sud, s'éloignent des cadres commerciaux contrôlés par les forces du marché. À leur tour, ces gouvernements sont de plus en plus tentés de suivre l'exemple de la réglementation numérique européenne afin de reprendre le contrôle de leurs économies numériques.
Le robot nommé Big Dog lors d'une présentation au Festival International de l'Intelligence Artificielle à Cannes en février 2023 (Reuters)
L'Union européenne pourrait bien façonner le développement de l'IA mondiale même si d'autres gouvernements ne suivent pas son exemple législatif. Les entreprises technologiques étendent souvent la portée des réglementations strictes de l'UE parce que leurs activités commerciales sont mondiales, forçant la normalisation de leurs produits et services dans le monde entier, un phénomène appelé "l'effet Bruxelles". Par exemple, les développeurs d'IA qui souhaitent utiliser des données européennes pour former des algorithmes seront tenus de respecter la législation de l'UE sur l'IA, même en dehors des frontières de l'UE. Mais s'ils veulent échapper aux réglementations européennes, ils devront développer des algorithmes entièrement nouveaux dépourvus de toute donnée européenne.
Dans un exemple révélateur, Sam Altman d'OpenAI a menacé en mai de retirer ChatGBT des pays de l'UE, citant des restrictions réglementaires émergentes. Il a rapidement retiré sa menace après quelques jours, au milieu des vives critiques des législateurs européens. La prédominance de l'approche législative adoptée en Europe risque de susciter des réactions mitigées. Certains citoyens et gouvernements étrangers peuvent saluer les efforts de l'Europe et être rassurés de savoir que la protection numérique de l'UE les inclut. D'autres parties prenantes étrangères, cependant, peuvent accuser l'UE d'impérialisme réglementaire, arguant que «l'effet Bruxelles» menace de saper l'innovation, la croissance économique et le progrès sociétal partout, ainsi que la capacité des gouvernements étrangers à réglementer l'IA en fonction de leurs valeurs. Et ses intérêts.
L'avenir de la révolution de l'intelligence artificielle
Alors que l'Union européenne et la Chine mènent la course à la réglementation de l'intelligence artificielle, Washington doit être décisif quant à sa volonté de jouer un rôle dans la construction du monde numérique de demain. L'émergence d'une concurrence technologique entre les États-Unis et la Chine peut persuader Washington d'aller aux extrêmes en faveur du développement sans restriction de l'intelligence artificielle [c'est-à-dire qu'elle n'est pas réglementée par une législation et des lois qui lui sont propres], car cela est cohérent avec l'insistance des décideurs politiques aux États-Unis sur les avantages des marchés libres, et leur attachement à la confiance dans la capacité des entreprises La technologie et sa volonté de freiner tout dommage lié à l'intelligence artificielle. De plus, en termes simples, les États-Unis pourraient se trouver incapables de réglementer la technologie de l'IA en raison d'un dysfonctionnement du processus politique américain. Autrefois, une législation significative et efficace dans le domaine de l'intelligence artificielle a été bloquée. En conséquence, la pression incessante des entreprises technologiques a cimenté le statu quo.
Cependant, trois développements récents suggèrent que les États-Unis pourraient abandonner leur approche tech-libérale de réglementation de l'intelligence artificielle, rejoignant ainsi l'Union européenne.
Premièrement, le soutien national à la réglementation a atteint un point de basculement, avec des experts et développeurs de premier plan en IA tels que Sam Altman et le pionnier de l'IA Jeffrey Hinton rejoignant les législateurs et le public pour soutenir la réglementation de l'IA. Dans ce nouvel environnement politique, l'inaction dans l'élaboration des lois semble difficile à défendre. Deuxièmement, les États-Unis pourraient finalement choisir de co-réglementer avec l'Union européenne plutôt que de donner à cette union l'initiative de réglementer seule le marché américain par le biais de "l'effet Bruxelles". Troisièmement, la préoccupation commune des États-Unis et de l'Union européenne face à l'influence mondiale croissante de la Chine donne une forte impulsion à une coopération transatlantique plus étroite.
À maintes reprises, les États-Unis ont souligné leur désir de s'associer à l'Union européenne et à d'autres alliés démocratiques pour promouvoir des normes conformes aux droits civils et aux valeurs démocratiques, et pour consolider un front démocratique uni contre la Chine et ses alliés autoritaires numériques. L'administration Biden a tracé des lignes de bataille idéologiques dans son effort incessant pour la domination technologique, décrivant la concurrence comme une bataille de démocraties technologiques contre des régimes autoritaires technologiques. Et si Washington considère vraiment la concurrence de cette façon, alors la question de la coopération américano-européenne est incontestable. Les États-Unis et l'Union européenne mettraient de côté leurs différences et élaboreraient des normes communes sur l'IA conçues dans l'intérêt de la promotion de l'innovation, de la protection des droits fondamentaux et de la préservation de la démocratie.
En conclusion, les années à venir seront marquées par une nette victoire des uns et une nette défaite des autres. Cela ne sera pas seulement évident dans la course au développement des technologies d'intelligence artificielle, mais comprendra également la concurrence entre les approches législatives pour contrôler ces technologies. Ces tendances concurrentes renforceront également les entreprises technologiques, les gouvernements ou les citoyens numériques de différentes manières, avec des conséquences économiques et politiques de grande envergure. Ainsi, la manière dont les gouvernements gèrent ces choix déterminera si la révolution de l'IA en cours servira la démocratie et atteindra une prospérité sans précédent, ou si elle entraînera de graves dommages sociétaux, voire une catastrophe inattendue.
Anno Bradford est professeur de droit à l'Université de Columbia et auteur du prochain ouvrage Digital Empires: The Global Battle to Regulate Technology.
Source: sites Internet