Apercevoir des baleines bleues dans vos larmes
Quelle est la différence entre une larme et un océan ? La question peut sembler ridicule, mais les océans et les larmes ont plus en commun qu'il n'y paraît à première vue. Les deux sont en grande partie composés d'eau salée, les deux contiennent des créatures (de minuscules micro-organismes dans le cas des larmes), la température moyenne d'une larme et d'un océan se situe confortablement dans la plage où l'eau est liquide. La vraie différence est le volume, mais ajoutez 1024 (pour ceux qui ne sont pas enclins aux mathématiques, c'est un suivi de vingt-quatre zéros, ou 1 000 000 000 000 000 000 000 000) larmes ensemble, et vous avez tous les océans de la Terre .
Cela illustre une vérité sur les propriétés émergentes. À un certain point, plus cesse d'être juste plus de la même chose et devient quelque chose de qualitativement différent. Des propriétés émergent qui n'étaient pas évidentes dans les petites collections. Une larme est à peine perceptible. Quelques centaines, c'est un mouchoir mouillé à la fin d'un film qui pleure. Les marées, les côtes spectaculaires, les vagues sur lesquelles vous pouvez surfer et les habitats qui peuvent tout supporter, des manchots arctiques aux coraux tropicaux, émergent à mesure que vous progressez dans l'échelle de taille d'une larme à un océan.
Bits, octets et yottaoctets.
Ce même phénomène de propriétés émergentes s'applique également à l'informatique. Le voyage des premiers ordinateurs à vannes de la taille d'une pièce des années 1940 au monde entièrement connecté d'aujourd'hui en est l'illustration. Aujourd'hui, tout le monde transporte un superordinateur en réseau dans sa poche, qui est ensuite utilisé pour des tâches critiques telles que la consultation des médias sociaux ou la réservation de livraison de nourriture. Peu de ces activités seraient évidentes pour quiconque envisageait le colosse de Bletchley Park en 1944, et le monde connecté moderne est certainement une propriété émergente qui ne serait pas évidente en passant d'un transistor à des milliards.
De nombreux principes qui sous-tendent les systèmes d'IA de pointe d'aujourd'hui ont leurs racines à l'aube même de la révolution informatique électronique dans les années 40 et 50. Alors que nous pourrions penser que les systèmes basés sur des réseaux de neurones sont à la pointe de la technologie en matière d'apprentissage automatique, les origines des systèmes actuels remontent au perceptron, développé à la fin des années 1950. Cet appareil a démontré les effets étranges émergeant de quelques règles simples, et avec une entrée de seulement 20 x 20 photodiodes, il pouvait être entraîné à reconnaître des ensembles d'images simples - rectangle vs ovale par exemple.
Si ces premiers perceptrons n'avaient que 400 paramètres "entraînables" (20 x 20), les systèmes de traitement du langage naturel à la pointe de la technologie d'aujourd'hui pourraient avoir 175 milliards de paramètres ou plus, soit neuf ordres de grandeur de plus. Au fond, les «neurones» artificiels individuels utilisés dans les réseaux de neurones sont simples - quelques entrées connectées au neurone. La connexion de chaque entrée se voit attribuer un poids. En termes mathématiques, la valeur d'entrée est multipliée par le poids. Le neurone additionne ensuite tous les résultats des multiplications, et le résultat détermine le niveau d'activation du neurone (souvent après que le résultat a été normalisé pour s'adapter à une plage d'activation particulière).
Pris isolément, un seul neurone est entièrement prévisible et compréhensible. Il n'y a pas de difficultés évidentes avec les préjugés ou l'éthique. Aucun des divers méfaits potentiels qui sont abordés dans divers livres blancs et projets de réglementation sur l'IA ne se manifeste.
Ce sont les propriétés émergentes résultant de la mise à l'échelle d'un neurone à des centaines de milliards qui créent le potentiel de ces effets.
Une question de définition
Les avocats adorent les définitions. Ils donnent l'illusion de la certitude, bien que presque chaque mot ait de multiples significations nuancées. Présentez deux plaideurs avec la même définition dans une affaire qui tourne autour de son sens, et même la rédaction la plus apparemment limpide s'effondrera dans l'ambiguïté et les contre-arguments. Malgré cela, les définitions dans la législation et les contrats sont d'une importance cruciale et délimiteront la portée des obligations ou le paysage des comportements interdits.
Dans le domaine de l'IA, les commentateurs passeront souvent du temps à examiner l'apparente impossibilité de définir "l'intelligence", et donc la double impossibilité de définir l'IA par référence à l'intelligence.
Ceux qui sont aux prises avec des définitions dans les contrats ou la législation adopteront souvent soit une approche basée sur la technologie, soit une approche téléologique, soit à cheval sur les deux.
Une approche basée sur la technologie pourrait offrir l'avantage d'un test très clair pour savoir si un système particulier est ou n'est pas couvert par la définition. Par exemple, "l'IA signifie tout système utilisant un réseau de neurones" peut fournir une clarté relative quant aux systèmes qui sont capturés, mais il est alourdi par des inconvénients évidents. Que se passe-t-il lorsque la technologie évolue ? Qu'en est-il des systèmes qui présentent les méfaits que vous souhaitez réglementer, mais qui pourraient ne pas s'appuyer sur la technologie pertinente ? Qu'en est-il des systèmes qui pourraient utiliser les réseaux de neurones de manière simple ou inoffensive, et auxquels vous n'entendez pas imposer les obligations qui tournent autour de la définition ?
Les approches raisonnées ont tendance à se concentrer sur le cas d'utilisation d'un système, souvent en référence à des compétences autrefois réservées aux êtres humains, ou en référence à la capacité d'un système à "apprendre".
Le premier (remplacement d'humains) présuppose que le remplacement d'un humain est soit absolu, soit particulièrement pertinent. Dans de nombreux cas, des technologies relativement simples utilisées en combinaison peuvent permettre à un employé d'entreprendre le travail précédemment effectué par plusieurs. En particulier lorsque les tâches sont restructurées pour inclure un élément de « libre-service », toute définition qui implique des machines effectuant des tâches auparavant réservées aux humains risque de capturer des technologies aussi banales que les distributeurs automatiques de billets ou les systèmes de paiement en libre-service dans les supermarchés. Ces systèmes auraient peut-être remplacé respectivement les caissiers de banque et les caissiers, mais peu d'entre nous les considéreraient comme des IA dignes d'un contrôle ou d'une réglementation spéciale.
Cette dernière (capacité d'apprentissage) révèle une erreur dans la pensée populaire sur les systèmes d'IA. Alors que les systèmes peuvent apprendre pendant une phase de formation, ceux déployés dans des environnements de production ont tendance à être dans un état fixe pour l'inférence, les nouvelles versions issues d'une formation supplémentaire n'étant déployées (puis dans un état fixe similaire) que périodiquement. Tous les systèmes déployés pour l'inférence n'auraient pas eux-mêmes la capacité d'apprendre et seraient donc manqués par une définition qui se concentrerait uniquement sur cette qualité.
Ces défis sont précisément présents dans la définition du système d'IA dans le dernier projet de règlement de l'UE sur l'IA à la date de rédaction. La version mise à jour du texte de compromis publié par le Conseil européen en novembre 2021 se lit comme suit :
« système d'intelligence artificielle » (système d'IA) désigne un système qui
Le contenu de l'annexe 1 énumérant les techniques et les approches reste conforme au projet initial :
(a) Approches d'apprentissage automatique, y compris l'apprentissage supervisé, non supervisé et par renforcement, utilisant une grande variété de méthodes, y compris l'apprentissage en profondeur ;
(b) Approches basées sur la logique et les connaissances, y compris la représentation des connaissances, la programmation inductive (logique), les bases de connaissances, les moteurs d'inférence et déductifs, le raisonnement (symbolique) et les systèmes experts ;
(c) Approches statistiques, estimation bayésienne, méthodes de recherche et d'optimisation.
La référence de cette définition aux technologies ou techniques répertoriées dans l'annexe 1 élargit le réseau afin de tenter de pérenniser la définition. Cela se traduira par une très large classe de systèmes considérés comme des «systèmes d'IA», qui à leur tour engloberaient les opérateurs de nombreux systèmes existants qui ne présentent et ne peuvent présenter aucune des propriétés émergentes potentiellement problématiques que la réglementation est principalement conçue pour contrôler. En conséquence, (et en supposant que quelque chose de similaire à cette définition reste dans la version du règlement qui est promulguée), un fardeau réglementaire et les coûts de mise en conformité qui en découlent incomberont à un éventail de systèmes et d'opérateurs beaucoup plus large que ce qui est strictement nécessaire.
Une alternative émergente
Idéalement, toute définition de l'IA devrait être raisonnablement claire, indépendante de la technologie, et englober les systèmes susceptibles de présenter les méfaits pertinents, sans jeter le filet trop largement et imposer des obligations à ceux qui ne présentent aucun risque.
Les auteurs proposent que les définitions se concentrent sur les propriétés émergentes de la complexité et les comportements inattendus qui pourraient en résulter, plutôt que sur une technologie ou un objectif particulier.
Considérez ce qui suit comme exemple :
Un "système d'IA" est tout système automatisé de traitement de données ou de prise de décision :
Cette définition se concentre sur l'idée que les méfaits à contrôler en premier lieu via les obligations attachées aux systèmes d'IA sont ceux qui surviennent de manière inattendue.
Tout opérateur utilisant un système pour mener délibérément une activité biaisée, discriminatoire, indigne de confiance ou frauduleuse serait déjà tenu responsable par la loi pour une telle conduite préjudiciable ou néfaste, qu'elle implique ou non un système d'IA. La nuance avec les systèmes d'IA est que de tels comportements peuvent ne pas être intentionnels, mais (si le système n'est pas bien conçu et surveillé) peuvent néanmoins se manifester.
En appliquant cette définition, un opérateur qui a délibérément mis en place un système pour qu'il soit discriminatoire pourrait ne pas être pris par cette définition, mais serait pris par la législation existante contrôlant les comportements pertinents. Dans la mesure où toutes les infractions pertinentes nécessitaient une intention coupable (mens rea pour ceux qui préfèrent le latin), une telle intention serait clairement présente dans un tel cas.
Cependant, l'opérateur qui met en place un système qui présente des biais inattendus ou qui produit occasionnellement et de manière imprévisible des résultats erronés, serait pris par cette nouvelle définition. Par conséquent, tout contrôle appliqué dans la législation connexe utilisant cette définition concernerait les systèmes susceptibles de bénéficier de ces contrôles. Des exemples de contrôles pertinents sur les opérateurs pourraient inclure :
Pour ceux qui préfèrent une approche à fond de cuivre avec ceinture et bretelles, la définition pourrait être étendue avec un troisième membre pour inclure spécifiquement les systèmes où les comportements problématiques ont été délibérément manifestés dans le système, de sorte qu'il ne serait pas nécessaire de s'appuyer entièrement sur les lois anti-discrimination actuelles, etc. pour contrôler ces mauvais acteurs utilisant des systèmes complexes à des fins antisociales.
Réglementation intelligente
Bien qu'imaginer des définitions alternatives possibles constitue un défi philosophique déroutant, les définitions que les opérateurs d'IA doivent avoir à l'esprit sont celles qui finissent par émerger dans la législation pertinente.
Du point de vue de l'UE, il semble probable que le règlement de l'UE sur l'IA conservera une définition raisonnablement proche de celle des projets actuels. Tout comme la définition des « données personnelles » du RGPD est devenue une norme de facto, la définition du système d'IA dans le règlement de l'UE sur l'IA pourrait donc devenir une définition de référence dans l'industrie. D'autres définitions concurrentes (et potentiellement incompatibles) sont susceptibles d'être contenues dans les lois régissant les aspects du déploiement de l'IA aux États-Unis, au Royaume-Uni, en Chine et ailleurs. Aux États-Unis, et peut-être au Royaume-Uni, les législateurs pourraient appliquer une approche plus sectorielle, ciblant des utilisations spécifiques de l'IA dans des secteurs particuliers. Cette approche sectorielle peut aboutir à une mosaïque de définitions de l'IA en fonction du contexte.
Dans ce contexte, il appartiendra aux régulateurs, en tant qu'exécuteurs de ces nouvelles règles, d'appliquer leur propre philosophie aux définitions législatives. Encore une fois, nous pouvons nous tourner vers les expériences dans le domaine de la protection des données pour voir comment cela pourrait se dérouler, bien que nous devions remonter plus loin que le RGPD. Dans les premières années qui ont suivi la promulgation de la directive de 1995 sur la protection des données dans les lois des États membres, nous avons vu la toute nouvelle définition des données personnelles testée à maintes reprises - Qu'est-ce qui constituait des données personnelles ? Dans quelle mesure une personne concernée devait-elle être facilement identifiable ? Était-il vraiment interdit aux parents de filmer les crèches scolaires ? En décidant de ces questions, les régulateurs étaient tenus de suivre le texte de la définition, mais ce faisant, ils ont inévitablement révélé leur propre perspective et philosophie.
Il en sera de même pour les définitions clés de l'IA dans ces nouvelles lois - bien que compte tenu de l'étendue des définitions, les régulateurs bénéficieront d'encore plus de latitude pour interpréter les limites des définitions conformément à leurs propres concepts et objectifs. Dans cet esprit, si ces régulateurs tiennent compte du fait que des systèmes particuliers présentent ou non des propriétés émergentes potentiellement problématiques, cela pourrait fournir une orientation utile sur les domaines dans lesquels les efforts d'application doivent être concentrés.
Étapes suivantes
Pour ceux qui cherchent à tirer parti de la promesse offerte par les systèmes d'IA de pointe au sein de leur organisation, toute définition proposée par les législateurs (qu'il s'agisse de la définition large susceptible d'être adoptée dans l'UE ou de définitions potentiellement plus ciblées qui pourraient trouver faveur ailleurs) est susceptible de s'appliquer à ce système d'une manière ou d'une autre. Il est essentiel de veiller à garantir les propriétés émergentes potentielles (et les effets négatifs qui pourraient en découler). Les commentaires des gouvernements et les régimes réglementaires proposés se sont concentrés sur l'explicabilité, la transparence, la fiabilité et la capacité de repérer et d'éliminer les préjugés qui pourraient émerger. Concevoir des systèmes avec ces objectifs à l'esprit est le meilleur moyen de s'assurer qu'une approche de « conformité dès la conception » est adoptée à mesure que la réglementation évolue.
Bien sûr, les affaires ne s'arrêtent pas et attendent que les réglementations soient établies, mises en œuvre et comprises. En tant que tel, il y aura une myriade d'activités de déploiement de technologies complexes en cours en ce moment dans le monde entier. La préoccupation est donc que la réglementation émergente puisse recouper un besoin commercial, une feuille de route de produit ou un nouveau secteur d'activité. Pour résoudre ce problème, les organisations doivent tenir compte des nouvelles réglementations potentielles avant leur arrivée afin de s'assurer qu'elles ont une approche de déploiement défendable, auditable et finalement raisonnable (dans le contexte de leur secteur).
