L'émission de télévision dystopique Black Mirror a commencé à se sentir moins à la fantaisie que la startup d'implantation du cerveau d'Elon Musk, Neuralink, se prépare pour les épreuves humaines.Bientôt, les appareils en forme de pièce pourraient permettre aux patients d'opérer des ordinateurs en utilisant uniquement leurs pensées.
Mais malgré l'élan sans fin pour l'homme le plus riche du monde, les scientifiques s'inquiètent de la surveillance de l'entreprise, de l'impact potentiel sur les participants à l'essai et de la question de savoir si la société a fait face aux enjeux de la fusion de Big Tech avec le cerveau humain.
"Je ne pense pas qu'il y ait un discours public suffisant sur les implications globales de ce type de technologie qui deviennent disponibles [sont]", a déclaré le Dr.Karola Kreitmair, professeur adjoint d'histoire médicale et de bioéthique à l'Université du Wisconsin-Madison.
«Je crains qu'il y ait ce mariage inconfortable entre une entreprise à but lucratif… et ces interventions médicales qui, espérons-le, sont là pour aider les gens», a-t-elle ajouté.
La semaine dernière, la nouvelle a annoncé que Neuralink embauche un directeur d'essai clinique pour aider à gérer sa première cohorte de patients humains.(L'entreprise a déjà testé ses implants cérébraux sur un singe et des cochons.)
L'objectif initial de la startup de cinq ans est d'aider à atténuer certains handicaps, comme permettre aux personnes paralysées de contrôler leurs ordinateurs et appareils mobiles par l'activité cérébrale.Musk a signalé des ambitions beaucoup plus importantes sur la route, cependant.Il a précédemment décrit sa vision pour aider les humains à atteindre la «symbiose» avec l'intelligence artificielle pour éviter d'être «laissé derrière» par les machines.
Les experts s'inquiètent de chaque étape de la trajectoire de Neuralink - démarrant avec les essais eux-mêmes.
"Ce sont des produits de niche très - si nous ne parlons vraiment que de les développer pour les individus paralysés - le marché est petit, les appareils sont chers", a déclaré le Dr.L.Syd Johnson, professeur agrégé au Center for Bioethics and Humanities à SUNY Upstate Medical University.
"Si l'objectif ultime est d'utiliser les données cérébrales acquises pour d'autres appareils, ou d'utiliser ces appareils pour d'autres choses - parlez, pour conduire des voitures, pour conduire Teslas - alors il pourrait y avoir un marché beaucoup plus important", a-t-elle déclaré.«Mais alors tous ces sujets de recherche humaine - les gens ayant des besoins réels - sont exploités et utilisés dans la recherche risquée pour le gain commercial de quelqu'un d'autre."
Dans les entretiens avec The Daily Beast, un certain nombre de scientifiques et d'universitaires ont exprimé l'espoir prudent que Neuralink offrira de manière responsable une nouvelle thérapie aux patients, bien que chacun ait également décrit les dilemmes moraux importants que le musc et l'entreprise n'ont pas encore entièrement abordé.
Dites, par exemple, un participant à l'essai clinique change d'avis et veut sortir de l'étude, ou développe des complications indésirables. “What I’ve seen in the field is we’re really good at implanting [the devices]," said Dr.Laura Cabrera, who researches neuroethics at Penn State. “But if something goes wrong, we really don't have the technology to explant them" and remove them safely without inflicting damage to the brain.
There are also concerns about “the rigor of the scrutiny" from the board that will oversee Neuralink’s trials, said Dr.Kreitmair, notant que certains comités de révision institutionnels «ont des antécédents d'être peut-être un peu embourbés dans les conflits d'intérêts." She hoped that the high-profile nature of Neuralink’s work will ensure that they have “a lot of their T’s crossed."
Les universitaires ont détaillé des questions sans réponse supplémentaires: que se passe-t-il si Neuralink fait faillite après que les patients aient déjà des appareils dans leur cerveau?Qui peut contrôler les données d'activité cérébrale des utilisateurs?Qu'arrive-t-il à ces données si l'entreprise est vendue, en particulier à une entité étrangère?Combien de temps durera les dispositifs implantables et ne couvrira-t-il pas les mises à niveau pour les participants à l'étude si les essais réussissent ou non?
Dr.Johnson, de SUNY Upstate, s'est demandé si les capacités scientifiques de la startup justifient son battage médiatique."Si Neuralink prétend qu'ils pourront utiliser leur appareil thérapeutiquement pour aider les personnes handicapées, ils surprofigent parce qu'ils sont loin de pouvoir le faire."
Neuralink n'a pas répondu à une demande de commentaire au moment de la publication.
“I'm always cautious about what [Elon Musk] says."—Laura CabreraSi les essais se déroulent bien, les experts ont déclaré qu'ils seraient toujours mal à l'aise - peut-être doublement.
“This technology has the potential to be life-changing for people who are paralyzed," said Dr.Kreitmair, de l'Université du Wisconsin-Madison. But if the implants are successful in that use case, “then there will be [an] appetite for consumer uses of this technology," like reading email using only one’s mind, or operating an autonomous vehicle.«Et cela soulève une telle série de préoccupations éthiques."
Un scientifique, Dr. James Giordano, of Georgetown University, argued that commercial brain implants could create a “medical tourism market" as the global population competed for access to the technology, which would introduce risks of poor oversight and quality control.
D'autres experts ont noté les dangers des implants piratés ou des virus de la puce informatique qui pourraient rendre les patients instables - ou pire.
“Our brain is our last bastion of freedom, our last place for privacy," said Dr. Nita Farahany, a scholar on emerging technologies at the Duke University School ofLaw who, like some of her peers, found elements of Neuralink’s progress “exciting."
The more distant commercial applications of its technology, however, carry “risk of misuse by corporations, by governments, by so-called bad actors," Farahany added.«Donc, quand vous avez une entreprise comme Neuralink, [qui] parle de participer à des épreuves humaines, je pense que cela devrait vraiment mettre le monde en alerte que le temps de développer des concepts robustes comme la liberté cognitive est maintenant."
Ces préoccupations ne sont plus seulement de la science-fiction.Neuralink est l'une des multiples startups qui courent pour perfectionner la technologie du cerveau, avec des concurrents comme Synchron et neurable faisant également d'énormes progrès.
Musk’s firm is notable, though, for “insufficient engagement with ethical issues"—even if it deserves credit in other ways—said Veljko Dubljević, who researches the ethics of neurotechnology and artificial intelligence at North Carolina State University.
Si le PDG de Tesla peut réaliser sa vision et sa tenue.
Mais cela suppose qu'il n'est pas survenant.
“With these companies and owners of companies, they’re kind of [showmen]," said Dr.Cabrera, de Penn State.«Ils feront ces affirmations hyperboliques, et je pense que c'est dangereux, parce que je pense que les gens le croient parfois aveuglément."
L'histoire des controverses de Musk en particulier, a-t-elle ajouté, «nous fait nous soucier de ses autres affirmations.Donc je suis toujours prudent sur ce qu'il dit."
