L'éthique du métaverse | VentureBeat VentureBeat Page d'accueil VentureBeat Page d'accueil Suivez-nous sur Twitter Suivez-nous sur Facebook suivez-nous sur LinkedIn suivez nous sur RSS Suivez-nous sur RSS Suivez-nous sur Twitter Suivez-nous sur RSS partager sur Facebook partager sur Twitter

We’re all in a rage about the metaverse, the universe of virtual worlds that are all interconnected, like in novels such as Snow Crash and Ready Player One. But we have a host of issues to consider when it comes to an ethical way to build and run the metaverse — before we plunge into it too quickly.

Tel est le message d'un groupe organisé lors de notre sommet GamesBeat: Kate Edwards, PDG de Geogrify et directrice générale de Global Games Jam, a participé à l'événement MetaUniverse 2.

Kent Bye, responsable du podcast VR Voice, a fait part de ses préoccupations au sujet de la confidentialité et du cadre éthique général de XR (Extended Reality, y compris Virtual Reality, Mixed Reality et Augmented Reality). Quelles données sont collectées à travers ces systèmes métacosmiques, où sont-elles allées et comment sont-elles utilisées?

L'autre panéliste était Michaela Mantegna, membre du Berkman Klein Center for Internet and Society de l'Université Harvard (et fondatrice de Femmes dans le jeu en Argentine). Elle fait également des recherches sur l'éthique de l'intelligence artificielle. Jules Urbach, PDG d'Otoy et spécialiste de longue date des technologies visuelles, a apporté une contribution encore plus importante sur le panel. "Nous pouvons entrer dans une situation où nous avons toutes ces données biométriques et physiologiques vraiment intimes qui rayonnent de notre corps, sont capturées par cette technologie et commencent à saper ce que Morningstar Group considère comme des droits neurologiques fondamentaux", a déclaré Bye Bye.

Confidentialité spirituelle et biologique

Bye dit que si nous n'avons pas de vie privée spirituelle et biologique, certaines nouvelles technologies peuvent essentiellement lire nos pensées, simuler notre identité, tirer des conclusions granulaires et contextuelles, puis pousser nos actions au point de saper nos actions délibérées.

Bye a déclaré que cela compromettrait notre capacité à "prendre des décisions dans les limites de la bonne foi sans toutes ces influences extérieures".

M. Urbach se dit particulièrement préoccupé par le suivi oculaire, « ce que les appareils de réalité virtuelle et de réalité virtuelle peuvent faire de toute évidence ». Cela lui rappelle les annonceurs qui font un suivi oculaire pour observer les gens lire et réagir aux mots qu'ils lisent.

« Le eye-tracking est en fait une carte des pensées et des intentions de quelqu'un », dit Ulbach. "C'est aussi quelque chose quand vous pensez à la façon de déplacer la souris sur un navigateur Web. Est utilisé pour vous identifier. Ce qui m'inquiète, c'est que de telles choses peuvent être utilisées pour déduire des intentions, même des intentions subconscientes. Devrait être contrôlé par le propriétaire. Cela ne devrait pas être un indice publicitaire. Ne devrait pas non plus être utilisé pour le traçage. Donc, même si vous externalisez quelque chose dans le métaunivers et que vous regardez comment ces yeux se déplacent dans l'espace VR à l'extérieur des lunettes, vous pouvez toujours construire des empreintes digitales, tout comme nous pouvons prendre des empreintes digitales pour marcher et d'autres choses. Donc toutes ces choses ont besoin d'être protégées. Les utilisateurs devraient avoir le droit à la vie privée", plutôt que de renoncer à ces droits dans le métaunivers.

Mantegna a dit qu'elle était d'accord avec ce que Bai a dit. Elle a dit que nous parlons du métaunivers, mais nous débattons toujours de ce qu'est le métaunivers sans parvenir à un véritable consensus sur la définition.

"L'une des définitions actuelles est l'itération d'Internet, des réseaux sociaux et des jeux, qui est une fusion", a déclaré Mantegna. « Cela transforme également les questions déjà connues sur les médias sociaux, la gouvernance d'Internet et l'éthique de l'intelligence artificielle. Kent fait référence aux données, qui sont le carburant de l'intelligence artificielle actuelle. Les systèmes autonomes sont déjà très gênants dans le domaine de l'éthique. Elle a ajouté que dans le métaunivers, le problème pourrait devenir plus délicat, car nous ajoutons cette couche d'immersion à la technologie.

« Beaucoup de ces données sont retirées de notre corps de manière très inconsciente », dit-elle. "Nous ne pouvons donc pas l'arrêter. Par conséquent, les problèmes déjà connus et les droits que nous avons (renoncés) devraient être transformés en conversations métacosmiques lorsque nous parlons de l'éthique de l'intelligence artificielle et des droits de l'homme sur Internet. "

Défis particuliers en matière de protection de la vie privée

Dans ses observations liminaires, Edwards a conclu que la préoccupation commune était la protection de la vie privée.

“It’s certainly been a concern already in our common internet usage and use of other devices. "C'est donc un thème assez fort, et je pense que même le grand public est très adaptable, même si nous abandonnons toujours les données de notre emplacement et sommes prêts à jouer à Pokemon Go et à toutes sortes d'autres choses intéressantes", a déclaré Edwards. « Je sais que vous avez mentionné plusieurs exemples de problèmes de protection de la vie privée. Y en a-t-il d'autres ou plus précisément, qui traitent des questions de protection de la vie privée? Jules, tu as mentionné le suivi oculaire comme un problème particulier, comme être capable de suivre les gens et d'enregistrer ce que les gens regardent? Y a-t-il autre chose en ce qui concerne la protection de la vie privée, comme des technologies ou des métadonnées particulières qui nous préoccupent? "

Ulbach a dit que la boucle de rétroaction le dérangeait. Urbach a dit que si vous comprenez inconsciemment ce que quelqu'un pense et fait, et que vous proposez une sorte de publicité dans le méta-univers, ce qui les incitera à acheter quelque chose, cela pourrait être pire dans le méta-univers.

Nous pouvons nous attendre à ce que les capteurs fusionnent, et tous ces dispositifs de collecte de données se rassemblent pour collecter des données de notre corps, mais aussi des interfaces de contrôle du cerveau et des données neuronales, qui peuvent éventuellement décoder nos pensées, dit Bye.

« Donc, nos pensées, nos idées, nos actions et ce que nous faisons », a déclaré Bye. « Ces technologies comprennent notre contexte. Je pense qu'un changement de paradigme est nécessaire entre la prise en compte de l'identité et la protection de la vie privée en ce qui concerne notre identité, qui est un objet statique et immuable, car toutes les lois définissent si l'information qui sort peut nous identifier, et je pense que c'est un problème. "

Nous disposerons de données biométriques et obtiendrons une intelligence artificielle contextuelle, « basée sur la fusion de tous les capteurs, afin qu'elle puisse modéliser vos actions, vos comportements, vos réactions émotionnelles, vos réactions physiologiques à des choses que vous ne pouvez même pas contrôler », a déclaré Bai.

Tout comme la publicité subconsciente, elle opère à ce niveau inconscient.

Au revoir a dit: "Cela commencera à atteindre le point où vous êtes somnambule à cette dystopie, et il n'y a pas de moyen clair de résister légalement.

Une approche paternaliste consiste à dire que vous ne devriez jamais utiliser ces données ou que vous ne devriez les utiliser que pour des applications médicales. Du point de vue du divertissement, vous aurez besoin de ces données pour affiner le divertissement.

“How do you draw the line between the contextual relevance and the use and appropriate use of that data in that entertainment context?”Bye said.“You can set up a last bastion of privacy or create the worst surveillance technology that we have ever seen.”

Avec une grande puissance vient une grande responsabilité

"Pour citer l'oncle Ben très intelligent de Spider-Man, plus le pouvoir est grand, plus la responsabilité est grande", a déclaré Mantegna. « Nous entrons dans un monde où la technologie sera capable de décoder l'information dans notre cerveau, mais seulement d'implanter ou de manipuler l'information à l'intérieur. »

Elle dit que nous parlons de ces cauchemars dystopiques comme des choses du futur, mais elle souligne que c'est quelque chose que nous voyons déjà avec l'intelligence artificielle générative.

« C'est pourquoi j'aime parler de ce que je pense être une magnitude, parce que cela va certainement empirer », dit-elle. « Nous avons déjà une IA générative artificielle, ou nous avons déjà une IA qui crée des inférences sur nous. Siphonner nos données. "

Nous avons déjà des problèmes liés aux préjugés, à la transparence et à l'efficacité qui seront profondément enracinés dans cette nouvelle technologie, a-t-elle déclaré. La technologie qui alimente ces choses est déjà là.

« Alors, ma préoccupation est de savoir comment nous allons façonner cela? Vers le méta-univers? " Elle a dit.

La question est de savoir comment nous aurons la propriété des données et la souveraineté personnelle, et comment modéliser votre identité dans l'espace numérique, a déclaré Edwards.

“What level of ethical responsibility are the companies, the platforms, going to have over allowing that personal sovereignty?”Edwards asked.

One of the problems is that the internet is universal and globally decentralized, but law is often territorial in nature. Cela rend difficile la gestion de la technologie à l'échelle mondiale, et la gestion deviendra plus difficile à mesure que la technologie sera décentralisée dans le Web 3.

Si nous voyons la technologie du métaunivers dans un environnement ouvert ou concentrée dans un jardin clos, nous devons promouvoir une protection plus forte des consommateurs, a déclaré Mantegna. Dans le cas contraire, nous sommes soumis aux termes et conditions de la Plateforme.

Urbach a déclaré que l'Europe a eu un réel impact en adoptant des mesures sévères sur des questions telles que la vie privée avec le Règlement général sur la protection des données (RGPD), et a commencé à influencer le reste du monde avec des lois sur la vie privée. A déclaré que la loi devrait nous donner le droit d'utiliser les données pour la formation à l'intelligence artificielle et à d'autres fins.

"Ce qui m'inquiète, c'est que si vous n'avez qu'une plate-forme verticale, un seul navigateur, une seule application, ce n'est pas bon," at-il dit. « Nous devrions nous efforcer de revenir au modèle de réseau ouvert du méta-univers ouvert. Si nous manquons cela, je pense que ce serait mauvais. "

Pense que la décentralisation et les paiements cryptés peuvent être une force puissante pour pousser le méta-univers ouvert. Bye a noté que Tony Parisi d'Unity a proposé sept règles pour le méta-univers, dont l'une est que le méta-univers est hardware-independent.

A noté que nous avons un double monopole dans le domaine mobile, comme Android et iOS, et que cela pourrait se poursuivre là où il y a très peu d'acteurs qui nous fournissent des services métacosmiques, car les grandes entreprises contrôleront le métacosmos comme elles contrôlent les médias sociaux aujourd'hui.

Nous pouvons voir différents modèles émerger, comme Facebook/Meta qui met l'accent sur moins de confidentialité mais une technologie moins chère, tandis qu'Apple prendra en charge la confidentialité, mais vous demandera de payer un produit plus cher.

Éthique de l'interopérabilité

Edwards demande si nous avons la responsabilité morale de fournir l'interopérabilité, parce que si elle n'existe pas, alors le méta-univers n'existe pas non plus.

"C'est très similaire à notre modèle d'accès Internet de longue date, et nous passons tous par un fournisseur de services Internet", a déclaré Edwards. « Mais en général, l'expérience d'un FAI est souvent invisible, car le service que nous offrons, ou en gros l'Internet que nous arrivons à la maison, est presque le même, dépendant uniquement du câble ou de la fibre optique ou d'une technologie similaire. »

Edwards a ajouté: "Si vous ne pouvez pas facilement vous déplacer entre les plates-formes. If you’re stuck in a particular walled garden, which we tend to see that model pop up frequently, is that really the metaverse? Quelles sont en fait les responsabilités de ces entreprises de coopérer entre elles pour assurer cet accès multiplateforme? "

Selon Bye, des organisations comme Khronos Group et Open XR peuvent créer un ensemble standard d'interfaces de programmation d'applications (API) interopérables. Le travail sur WebXR est également en cours, mais la question est de savoir si les grandes entreprises comme Apple le soutiendront. Mais chacune de ces entreprises doit prendre des décisions commerciales sur la façon dont l'interopérabilité devrait fonctionner.

Urbach a déclaré que des discussions actives sont en cours sur la façon dont les technologies interopérables telles que glTF (GL Transfer Format) peuvent transférer et charger efficacement des scènes et des modèles 3D via des applications. Mais nous devons encore rassembler de nombreuses technologies différentes. Apple, Nvidia et d'autres sociétés conviennent du format de données 3D de la description de scène universelle (USD), qui est dérivé de Pixar et prend en charge la technologie de simulation omnidirectionnelle de Nvidia. Tout cela est prometteur, dit Ulbach. Mme Mantegna est d'accord avec Mme Ulbach lorsqu'elle dit que l'interopérabilité technologique doit être compatible avec le droit de la propriété intellectuelle, qui vous offre une interopérabilité légale et durable en tant que couche supérieure à l'interopérabilité technologique.

Elle a dit que l'une des promesses concernant le métaunivers est la propriété réelle de vos actifs numériques.

"Vous ne pouvez pas l'accepter ou avoir la même fonctionnalité d'un méta-univers à un autre, car ce sera un autre niveau de réglementation, de propriété intellectuelle, de licences, de contrats et de précurseurs de service qui vous empêcheront de le faire", a déclaré Mantegna. « L'une des grandes discussions en cours est de savoir comment le principe de la première vente s'appliquera aux biens numériques. Si vous achetez un t-shirt dans le monde analogique, vous pouvez le prendre et le porter où vous voulez. Mais pour le méta-univers des cosmétiques, ce n'est peut-être pas vrai. Ceci est très similaire à la façon dont vous achetez des livres électroniques, vous ne pouvez pas aller d'une plate-forme à une autre. "

Égalité d ' accès

M. Edwards a soulevé la question des disparités socio-économiques mondiales et de la façon dont elles changent d'un endroit à l'autre. Comment les entreprises peuvent-elles offrir des chances égales aux autres partout dans le monde?

Selon Ulbach, entrer dans le méta-univers peut être très similaire à entrer dans Internet. Les téléphones portables permettent d'accéder à Internet dans le monde entier.

"Je pense que la révolution de la téléphonie mobile se poursuivra dans le méta-univers, et je pense que vous aurez peut-être une assez bonne couverture en termes de matériel et de bande passante requise, tout comme les téléphones mobiles se développent dans la plupart des régions du monde", a-t-il déclaré. "Pour moi, c'est une extension de ce qui couvre les téléphones, le matériel et la bande passante."

Estime que le méta-univers sera distribué via des services cloud, qui peuvent être décentralisés et fournir un accès égal à l'information via des réseaux ouverts.

Bye souligne que la réalité virtuelle est devenue plus accessible, car une entreprise appelée Meta subventionne le coût des écouteurs avec un « modèle capitaliste de surveillance ».

"Vous obtenez plus d'accessibilité, mais en même temps, vous pouvez hypothéquer la vie privée des gens." « Il y a donc une sorte de tension que vous avez ces compromis inhérents afin de vraiment payer une partie de ces coûts financièrement. Alors, comment faites-vous les choses magnifiquement? Eh bien, vous ne pouvez pas faire les choses gratuitement, vous devez donc décider ce qui est le plus précieux, avoir une (politique) diversifiée et inclusive et rendre la technologie aussi accessible que possible à la plupart des gens. "

Le défi auquel nous sommes confrontés est l'absence d'une voie claire qui nous permette à la fois d'avoir accès à une technologie accessible et de garantir de nombreux droits que nous aurions autrement abandonnés en surveillant le capitalisme. Selon Bye, une nouvelle loi fédérale sur la protection des renseignements personnels pourrait atteindre cet équilibre.

« Lorsque nous considérons l'éthique, cela peut sembler irréalisable. "Il est difficile de le traduire en bonnes pratiques qui peuvent être mises en pratique dans le travail quotidien", a déclaré Mantegna.

Elle a déclaré que la question de l'accès implique plusieurs choses. L'un est l'accès à Internet, et elle a noté qu'un récent rapport des Nations Unies a révélé qu'un tiers de la population mondiale n'a jamais été connecté à Internet. Un autre problème est d'obtenir la technologie qui fournit les meilleurs résultats. Ensuite, nous devons résoudre le problème de l'accès au matériel, qui sera différent en fonction de l'abordabilité de chacun.

"Comment allons-nous assurer cet équilibre?" Demanda Mantegna.

Tant que les principes moraux ne sont que des lignes directrices sans obligations spécifiques, nous échouerons, a déclaré Mantegna.

« Nous ne voulons pas échouer, a dit Edwards. « Nous voulons faire en sorte que ce soit bien fait. Ce n'est pas un problème que nous pouvons résoudre facilement, mais j'espère que nous garderons les yeux ouverts à ce sujet à mesure que nous entrerons dans le développement du métaunivers. "