Los robots o las inteligencias artificiales avanzadas que "se despiertan" y se vuelven conscientes son un elemento básico de los experimentos de pensamiento y la ciencia ficción.Si esto es realmente posible o no, sigue siendo un gran debate.Toda esta incertidumbre nos pone en una posición desafortunada: no sabemos cómo hacer máquinas conscientes y (dadas las técnicas de medición actuales) no sabremos si hemos creado una.Al mismo tiempo, este problema es de gran importancia, porque la existencia de máquinas conscientes tendría consecuencias éticas dramáticas.
No podemos detectar directamente la conciencia en las computadoras y el software que se ejecuta en ellas, más de lo que podemos en ranas e insectos.Pero este no es un problema insuperable.Podemos detectar la luz que no podemos ver con nuestros ojos usando instrumentos que miden formas de luz no visibles, como rayos X.Esto funciona porque tenemos una teoría del electromagnetismo en la que confiamos, y tenemos instrumentos que nos dan mediciones que tomamos de manera confiable para indicar la presencia de algo que no podemos sentir.Del mismo modo, podríamos desarrollar una buena teoría de la conciencia para crear una medida que podría determinar si algo que no puede hablar era consciente o no, dependiendo de cómo funcionara y de qué se hizo..
Desafortunadamente, no hay una teoría de consenso de la conciencia.Una encuesta reciente de los académicos de la conciencia mostró que solo el 58 por ciento de ellos pensaba que la teoría más popular, el espacio de trabajo global (que dice que los pensamientos conscientes en los humanos son aquellos ampliamente distribuidos a otros procesos cerebrales inconscientes), fue prometedor..Las tres principales teorías más populares de la conciencia, incluido el espacio de trabajo global, no están de acuerdo fundamentalmente en si, o en qué condiciones, una computadora podría ser consciente.La falta de consenso es un problema particularmente grande porque cada medida de conciencia en máquinas o animales no humanos depende de una teoría u otra.No hay una forma independiente de probar la conciencia de una entidad sin decidir sobre una teoría.
Si respetamos la incertidumbre que vemos entre los expertos en el campo, la forma racional de pensar sobre la situación es que estamos en la oscuridad sobre si las computadoras podrían ser conscientes, y si pudieran serlo, cómo se podría lograr eso.Dependiendo de qué teoría (quizás más hipotética) resulte correcta, hay tres posibilidades: las computadoras nunca serán conscientes, podrían ser conscientes algún día, o algunas ya lo son..
Mientras tanto, muy pocas personas están tratando deliberadamente de hacer máquinas o software conscientes.La razón de esto es que el campo de la IA generalmente está tratando de hacer herramientas útiles, y está lejos de ser claro que la conciencia ayudaría con cualquier tarea cognitiva que quisiéramos hacer las computadoras..
Al igual que la conciencia, el campo de la ética está plagado de incertidumbre y carece de consenso sobre muchos temas fundamentales, incluso después de miles de años de trabajo sobre el tema.Pero un pensamiento común (aunque no universal) es que la conciencia tiene algo importante que hacer con la ética.Específicamente, la mayoría de los estudiosos, cualquier teoría ética que puedan respaldar, creen que la capacidad de experimentar estados conscientes agradables o desagradables es una de las características clave que hace que una entidad sea digna de consideración moral.Esto es lo que hace mal patear a un perro pero no una silla.Si hacemos computadoras que puedan experimentar estados conscientes positivos y negativos, ¿qué obligaciones éticas tendríamos?Tendríamos que tratar una computadora o una pieza de software que pueda experimentar alegría o sufrir consideraciones morales..
Hacemos robots y otros AIS para hacer el trabajo que no podemos hacer, pero también trabajamos que no queremos hacer.En la medida en que estos AI tienen mentes conscientes como la nuestra, merecerían una consideración ética similar.Por supuesto, el hecho de que una IA sea consciente no significa que tenga las mismas preferencias que hagamos, o considerar las mismas actividades desagradables.Pero cualesquiera que sean sus preferencias, tendrían que ser considerados debidamente al poner esa IA para que funcione.Hacer una máquina consciente que funcione es miserable hacer es éticamente problemático.Esto parece obvio, pero hay problemas más profundos.
Considere la inteligencia artificial en tres niveles.Hay una computadora o robot, el hardware en el que se ejecuta el software.El siguiente es el código instalado en el hardware.Finalmente, cada vez que se ejecuta este código, tenemos una "instancia" de ese código que se ejecuta.¿A qué nivel tenemos obligaciones éticas?Podría ser que los niveles de hardware y código sean irrelevantes, y el agente consciente es la instancia del código que se ejecuta.Si alguien tiene una computadora que ejecuta una instancia de software consciente, ¿estaríamos éticamente obligados a mantenerla funcionando para siempre?
Considere además que crear cualquier software es principalmente una tarea de depuración: realizar instancias del software una y otra vez, solucionar problemas e intentar que funcione.¿Qué pasaría si uno estuviera obligado éticamente a seguir ejecutando cada instancia del software consciente incluso durante este proceso de desarrollo?Esto puede ser inevitable: el modelado por computadora es una forma valiosa de explorar y probar las teorías en psicología.El incrustación éticamente en el software consciente se convertiría rápidamente en una gran carga computacional y energética sin ningún extremo claro.
Todo esto sugiere que probablemente no deberíamos crear máquinas conscientes si podemos ayudarlo.
Ahora voy a poner eso en su cabeza.Si las máquinas pueden tener experiencias conscientes y positivas, entonces en el campo de la ética, se considera que tienen algún nivel de "bienestar", y se puede decir que las máquinas producen bienestar que producen bienestar.De hecho, las máquinas eventualmente podrían producir bienestar, como la felicidad o el placer, de manera más eficiente que los seres biológicos..Es decir, para una cantidad determinada de recursos, uno podría producir más felicidad o placer en un sistema artificial que en cualquier criatura viviente.
Supongamos, por ejemplo, una tecnología futura nos permitiría crear una computadora pequeña que pueda ser más feliz que un ser humano eufórico, pero solo requiere tanta energía como una bombilla.En este caso, de acuerdo con algunas posiciones éticas, el mejor curso de acción de la humanidad sería crear la mayor cantidad de bienestar artificial posible, ya que en animales, humanos o computadoras.Los humanos futuros podrían establecer el objetivo de convertir toda la materia alcanzable en el universo en máquinas que producen eficientemente bienestar, quizás 10,000 veces más eficientemente de lo que se puede generar en cualquier criatura viviente.Este extraño futuro posible podría ser el que tenga más felicidad..
This is an opinion and analysis article, and the views expressed by the author or authors are not necessarily those of Scientific American.
