Illustration: Mohamed_hassan / Pixabay
En tant que chercheur en IA développant l'IA pour les soins de santé, les gens me demandent souvent si l'IA remplacera les médecins humains à l'avenir.
La question ne vient pas comme une surprise.Nous vivons, après tout, à une époque où nous voyons la technologie déplacer les gens tout le temps.Les machines automatisent les activités nécessitant un travail manuel depuis des décennies.
Mais les médecins ne sont pas des ouvriers manuels.Être médecin nécessite des années de formation, une mine d'expérience dans le diagnostic et le traitement des patients, de vastes quantités de connaissances sur le corps humain, des niveaux élevés d'intelligence et un sens aigu du jugement.
Les ordinateurs peuvent-ils atteindre toutes ces qualités pour effectuer le travail des médecins?
Et là, dans cette même question, se trouve une grave erreur.Est-ce que nous imiter le but ultime de l'IA?Faut-il développer une IA qui rivalise avec nous?Ne pouvons-nous pas plutôt concevoir des systèmes qui collaborent avec nous, augmenter nos capacités et nous aider à mieux faire les choses?
Il s'avère que nous pouvons, mais nous devons d'abord changer notre état d'esprit.
«Drosophila du raisonnement»
Après avoir perdu célèbre contre le supercalculateur de jeu d'échecs d'IBM «Deep Blue» en 1997, Garry Kasparov n'est pas devenu hostile vers l'IA.Au lieu de cela, il est devenu un défenseur vocal de la collaboration entre les humains et les machines.Il a commencé ce qui est devenu plus tard les échecs du centaure.
Dans la mythologie grecque, un centaure est un animal hybride qui est à moitié humain et demi-chevaux.Chaque joueur d'échecs Centaur est une équipe composite d'humains et d'ordinateurs.Les ordinateurs exploitent leur pouvoir de calcul pour croquer des millions de mouvements et fournir le meilleur ensemble de candidats.Les joueurs humains exercent leur jugement et leur expérience pour choisir un déménagement de cet ensemble qu'ils croient être le plus solide stratégiquement.
Dans un tournoi d'échecs en premier libre libre où les humains, les ordinateurs et les équipes hybrides des ordinateurs humains ont participé, qui pensez-vous avoir gagné?Pas les grands maîtres humains.Pas les algorithmes d'échecs les mieux notés sur les superordinateurs.L'équipe qui a gagné était un centaure composé de deux joueurs d'échecs amateurs aidés par trois ordinateurs ordinaires.
Kasparov a appelé les échecs la «drosophile du raisonnement» 1.Pendant longtemps, il a servi de test ultime pour l'intelligence machine.Même au début du développement de l'IA, les machines ont excellé dans la prise de décisions tactiques à court terme.Par exemple, les ordinateurs étaient meilleurs que les humains aux jeux d'échecs.Les acteurs humains experts, cependant, étaient bien meilleurs pour prendre des décisions stratégiques à long terme, telles que décider de sacrifier un article pour gagner un avantage positionné.
Nous voyons les mêmes modèles dans d'autres domaines.L'IA surpasse les humains à des tâches fermes tandis que les humains restent largement supérieurs pour effectuer des activités plus ouvertes.Envisagez des systèmes compatibles AI pour examiner les analyses de radiologie.Les ordinateurs correspondent déjà ou même dépassent les radiologues experts pour détecter les conditions spécifiques des images médicales.Mais ils ne peuvent pas interpréter les analyses dans le contexte des informations personnelles et des antécédents médicaux du patient.Le faire nécessite une compréhension de l'anatomie humaine et des processus pathologiques.
"L'IA ne peut pas automatiser complètement les rapports des analyses de radiologie, mais cela n'empêche pas l'IA de créer de la valeur", a déclaré Amit Kharat, co-fondateur de Deepttek, où je travaille, a déclaré.«En utilisant l'IA pour augmenter les capacités de nos radiologues, nous pouvons fournir des rapports de meilleure qualité dans les temps de redressement inférieurs, améliorant finalement la qualité et l'abordabilité de l'imagerie médicale."
Aussi: Lire: la vérité gênante sur l'informatique quantique
IA dans les soins de santé
Les chercheurs de l'IA se sont traditionnellement concentrés sur le développement d'algorithmes qui peuvent reproduire l'intelligence humaine.Leur objectif principal était d'améliorer l'autonomie des machines.Mais nous n'avons pas vraiment besoin d'IA pour être autonome.Nous avons besoin d'IA pour être fiable et digne de confiance.
Les humains excellent dans certaines choses et les ordinateurs excellent dans d'autres choses.Nous avons besoin de systèmes qui font ressortir le meilleur des deux - afin que leur combinaison soit beaucoup plus efficace que l'un ou l'autre pourrait être seul.
C'est, bien sûr, plus facile à dire qu'à faire et nécessite un changement de paradigme dans les mentalités des développeurs d'IA et de ses utilisateurs éventuels.Pour évaluer les performances de leurs algorithmes, les développeurs les comparent avec la façon dont les humains fonctionnent à la même tâche.C'est-à-dire qu'ils peuvent comparer un système de reconnaissance d'image avec la façon dont les humains peuvent reconnaître les images d'un ensemble de données de test.Ils pourraient tester un système de diagnostic radiologique contre les décisions des radiologues humains.
Pour développer une IA vraiment collaborative, nous aurons besoin de nouvelles mesures de performance qui sont collaboratives au lieu de comparativement.Nous avons besoin de mesures qui ne mesurent pas à quel point l'IA se comporte par elle-même, mais dans quelle mesure la combinaison de l'équipe composite de l'homme-ai-ai fait lorsque vous travaillez ensemble.De telles mesures contribueront grandement à changer le paradigme compétitif dans lequel l'IA se développe aujourd'hui.
Par exemple, au lieu d'évaluer un système d'IA de reconnaissance faciale en la comparant à la façon dont les bons humains sont à reconnaître les visages, vous pouvez comparer la qualité des lecteurs humains lorsqu'ils sont aidés par l'IA avec les mêmes lecteurs humains lorsqu'ils ne sont pas aidés par l'IA.
En plus d'adopter des mesures de performance collaboratives, nous devons également concevoir des interfaces qui améliorent la confiance des utilisateurs dans l'IA qui les guide.Les utilisateurs, en particulier ceux des disciplines qui nécessitent des connaissances et une expertise importantes, sont sceptiques quant aux conseils générés par l'IA.
Dans une étude récente, les radiologues ont été montrés aux rayons X thoraciques et à leurs diagnostics, et ont été invités à évaluer l'exactitude des diagnostics.Tous les diagnostics ont été générés par des experts humains, mais certains d'entre eux ont été faussement étiquetés comme s'ils venaient d'un système d'IA.
Ces radiologues ont ensuite été posés des questions sur la qualité des diagnostics qu'ils ont examinés.Ils ont systématiquement évalué les diagnostics comme étant de moindre qualité lorsqu'ils pensaient vérifier le verdict d'un système d'IA au lieu d'un expert humain.
Comment développer des systèmes qui améliorent l'efficacité en incorporant des éléments d'IA alors que, en même temps, de protéger l'agence humaine, la participation et la créativité?
Lisez aussi: Pourquoi nous devons débarrasser l'IA des frontières de la connaissance humaine
AI centré sur l'homme
“In the future, we will use AI to recognise hidden patterns not visible to the expert eye, but radiologists will arbitrate these decisions on the basis of the clinical and legal context," Vinay Duddalwar, a professor of radiology at the University of Southern California and a well-known researcher working in the field, said.
Dans un essai de janvier 2022, Erik Brynjolfsson, directeur du Stanford Digital Economy Lab, a tracé une frontière entre l'IA comme l'homme et l'IA centrée sur l'homme.En reproduisant et en automatisant les capacités humaines, l'IA de type humain transformera les machines en substituts moins chers aux travailleurs humains.
Finalement, les travailleurs perdront leur pouvoir de négociation économique et politique et deviendront de plus en plus dépendants de ceux qui contrôlent la technologie.D'un autre côté, l'IA centrée sur l'homme augmentera les capacités humaines et permettra aux gens de faire des choses qu'ils ne pourraient jamais auparavant.
En remplaçant différentes classes de travailleurs un par un, une IA humaine concentrera lentement le pouvoir et l'argent entre les mains de quelques-uns.En autonomisant les travailleurs et en leur offrant des opportunités de plus en plus précieuses, l'IA centrée sur l'homme nous donnera une chance de créer une société prospère, inclusive et plus égale.Les deux stimuleront la productivité - mais ce dernier garantira que les humains restent indispensables pour créer de la valeur et prendre des décisions.
En tant que société, nous devons faire ces choix consciemment et ensemble.Comme toutes les formes de technologie, l'IA est un outil.Qu'il s'agisse d'une aubaine ou d'un fléau dépend de la façon dont nous le maniez et de la façon dont nous permettons aux autres de le manier.
Alors, quand les gens me demandent si l'IA remplacera les médecins à l'avenir, j'emprunte chaleureusement une feuille à Garry Kasparov.Je leur dis que je ne vois pas l'IA remplacer les médecins à l'avenir - mais que je vois des médecins qui utilisent l'IA remplacer les médecins qui n'utilisent pas l'IA.
Duddalwar a bien résumé lorsqu'il a paraphrasé la loi sur la robotique zéroth d'Isaac Asimov: «En fin de compte, un système d'IA ne doit pas nuire à l'humanité, ou, par inaction, à permettre à l'humanité de nuire à nuire. AI centré sur l'homme will ensure this."
Viraj Kulkarni est titulaire d'une maîtrise en informatique de l'Université de Californie à Berkeley, et poursuit actuellement un doctorat en intelligence artificielle quantique.Il est également le principal scientifique des données de Deepttek.Il est sur Twitter à @virajzero.
