Ilustración: Mohamed_hassan/Pixabay
Como investigador de IA que desarrolla la IA para la atención médica, la gente a menudo me pregunta si la IA reemplazará a los médicos humanos en el futuro.
La pregunta no es una sorpresa.Después de todo, vivimos en una era en la que vemos que la tecnología desplaza a las personas todo el tiempo.Las máquinas han estado automatizando actividades que requieren mano de obra manual durante décadas.
Pero los médicos no son trabajadores manuales.Ser médico requiere años de capacitación, una gran experiencia en diagnóstico y tratamiento de pacientes, grandes cantidades de conocimiento sobre el cuerpo humano, altos niveles de inteligencia y un gran sentido de juicio.
¿Pueden las computadoras alcanzar todas estas cualidades para realizar el trabajo de los médicos?
Y allí, en esta misma pregunta, se encuentra un grave error.¿Es imitarnos el objetivo final para la IA?¿Debemos desarrollar una IA que compite con nosotros?¿No podemos diseñar sistemas que colaboren con nosotros, aumentaran nuestras capacidades y ayudarnos a hacer las cosas mejor?
Resulta que podemos, pero primero debemos cambiar nuestra mentalidad.
"Drosophila del razonamiento"
Después de perder a la supercomputadora de ajedrez de IBM "Deep Blue" en 1997, Garry Kasparov no se volvió hostil hacia AI.En cambio, se convirtió en un defensor vocal de la colaboración entre humanos y máquinas..Comenzó lo que más tarde se convirtió en el ajedrez del centaur.
En la mitología griega, un centauro es un animal híbrido que es mitad humano y medio caballo.Cada jugador de ajedrez de Centaur es un equipo compuesto de humanos y computadoras.Las computadoras explotan su poder computacional para cruzar millones de movimientos y proporcionar el mejor conjunto de candidatos.Los jugadores humanos ejercen su juicio y experiencia para elegir un movimiento de este conjunto que creen que es el más sólido estratégicamente.
En un torneo de ajedrez de estilo libre temprano donde participaron los humanos, las computadoras y los equipos híbridos de computadoras humanas, ¿a quién crees que ganó?No los abuelos humanos.No son los algoritmos de ajedrez mejor calificados que se ejecutan en supercomputadoras.El equipo que ganó fue un centauro que constaba de dos jugadores de ajedrez aficionados asistidos por tres computadoras ordinarias.
Kasparov ha llamado al ajedrez el "Drosophila del razonamiento" 1.Durante mucho tiempo, sirvió como la prueba definitiva para la inteligencia de la máquina.Incluso en los primeros días del desarrollo de la IA, las máquinas se destacaron por tomar decisiones tácticas a corto plazo.Por ejemplo, las computadoras eran mejores que los humanos en el ajedrez endGames.Los actores humanos expertos, sin embargo, fueron mucho mejores para tomar decisiones estratégicas a largo plazo, como decidir si sacrificar una pieza para obtener una ventaja posicional.
Vemos los mismos patrones en otros campos.La IA supera a los humanos en tareas cerradas, mientras que los humanos siguen siendo muy superiores al realizar actividades más abiertas.Considere sistemas habilitados para AI para examinar los escaneos de radiología.Las computadoras ya coinciden o incluso superan a los radiólogos expertos para detectar condiciones específicas de imágenes médicas.Pero no pueden interpretar escaneos en el contexto de la información personal y el historial médico del paciente.Hacer eso requiere una comprensión de la anatomía humana y los procesos de la enfermedad.
"La IA no puede automatizar completamente los informes de exploraciones de radiología, pero eso no impide que la IA cree valor", dijo Amit Kharat, cofundador de Deeptek, donde trabajo, dijo.“Al usar la IA para aumentar las capacidades de nuestros radiólogos, podemos ofrecer informes de mejor calidad en tiempos de respuesta más bajos, mejorando en última instancia la calidad y la asequibilidad de las imágenes médicas."
También: Lea: La verdad inconveniente sobre la computación cuántica
IA en atención médica
Los investigadores de IA se han centrado tradicionalmente en desarrollar algoritmos que pueden replicar la inteligencia humana.Su objetivo principal era mejorar la autonomía de las máquinas..Pero realmente no necesitamos la IA para ser autónoma.Necesitamos que la IA sea confiable y confiable.
Los humanos sobresalen en algunas cosas y las computadoras se destacan en otras cosas.Necesitamos sistemas que traigan lo mejor en ambos, de modo que su combinación sea mucho más efectiva de lo que cualquiera de ellos podría estar sola.
Esto es, por supuesto, más fácil decirlo que hacerlo y requiere un cambio de paradigma en la mentalidad de los desarrolladores de IA y sus eventuales usuarios.Para evaluar el rendimiento de sus algoritmos, los desarrolladores los comparan con la forma en que los humanos se desempeñan en la misma tarea.Es decir, pueden comparar un sistema de reconocimiento de imágenes con qué tan bien los humanos pueden reconocer imágenes de un conjunto de datos de prueba.Podrían probar un sistema de diagnóstico radiológico con las decisiones de los radiólogos humanos..
Para desarrollar una IA verdaderamente colaborativa, necesitaremos medidas de rendimiento más nuevas que sean colaborativas en lugar de comparativas.Necesitamos métricas que no midan lo bien que la IA lo hace por sí solo, pero qué tan bien lo hace la combinación del equipo compuesto humano-AI cuando trabajan juntos.Dichas métricas contribuirán en gran medida a cambiar el paradigma competitivo bajo el cual se está desarrollando AI hoy.
Por ejemplo, en lugar de evaluar un sistema de IA de reconocimiento facial al compararlo con lo buenos que son los humanos para reconocer caras, podría comparar cuán buenos son los lectores humanos cuando AI ayudan con los mismos lectores humanos cuando no lo ayudan a AI.
Junto con la adopción de medidas de rendimiento colaborativas, también necesitamos diseñar interfaces que mejoren la confianza de los usuarios en la IA que las guía.Los usuarios, especialmente aquellos en disciplinas que requieren un conocimiento y experiencia significativos, son escépticos de los consejos generados por AI.
En un estudio reciente, a los radiólogos se les mostró rayos X de tórax y sus diagnósticos, y se les pidió que evaluaran la corrección de los diagnósticos..Todos los diagnósticos fueron generados por expertos humanos, pero algunos de ellos fueron etiquetados falsamente como si hubieran venido de un sistema de IA.
Posteriormente, a estos radiólogos se les hicieron preguntas sobre la calidad de los diagnósticos que examinaron.Calificaron constantemente los diagnósticos como de menor calidad cuando pensaron que estaban revisando el veredicto de un sistema de IA en lugar de un experto humano.
¿Cómo podemos desarrollar sistemas que mejoren la eficiencia al incorporar elementos de IA mientras, al mismo tiempo, salvaguardar la agencia humana, la participación y la creatividad?
Lea también: ¿Por qué debemos deshacer la IA de los límites del conocimiento humano?
AI centrada en humanos
“In the future, we will use AI to recognise hidden patterns not visible to the expert eye, but radiologists will arbitrate these decisions on the basis of the clinical and legal context," Vinay Duddalwar, a professor of radiology at the University of Southern California and a well-known researcher working in the field, said.
En un ensayo de enero de 2022, Erik Brynjolfsson, director del Laboratorio de Economía Digital de Stanford, dibujó una línea aguda entre la IA humana y la IA centrada en los humanos.Al replicar y automatizar las capacidades humanas, la IA humana convertirá las máquinas en sustitutos más baratos para los trabajadores humanos.
Eventualmente, los trabajadores perderán su poder de negociación económica y política y se volverán cada vez más dependientes de quienes controlan la tecnología.Por otro lado, la IA centrada en los humanos aumentará las capacidades humanas y permitirá que las personas hagan cosas que nunca antes podrían.
Al reemplazar diferentes clases de trabajadores uno por uno, la IA humana concentrará lentamente el poder y el dinero en manos de unos pocos.Al empoderar a los trabajadores y proporcionarles oportunidades cada vez más valiosas, la IA centrada en los humanos nos dará la oportunidad de crear una sociedad próspera, inclusiva y más igualitaria.Ambos aumentarán la productividad, pero este último asegurará que los humanos sigan siendo indispensables para crear valor y tomar decisiones.
Como sociedad, necesitamos tomar estas decisiones conscientemente y juntos.Como todas las formas de tecnología, la IA es una herramienta.Ya sea que se trate de una bendición o una ruina depende de cómo lo manejemos y cómo permitamos que otros lo manejen.
Entonces, cuando la gente me pregunta si la IA reemplazará a los médicos en el futuro, tomo prestada una hoja de Garry Kasparov.Les digo que no veo la IA reemplazando a los médicos en el futuro, pero que sí veo médicos que usan IA reemplazando a los médicos que no usan IA.
Duddalwar lo resumió muy bien cuando parafraseó la ley de robótica de Isaac Asimov: "En última instancia, un sistema de IA no debe dañar a la humanidad o, por inacción, permitir que la humanidad se dañe. AI centrada en humanos will ensure this."
Viraj Kulkarni tiene una maestría en informática de la Universidad de California, Berkeley, y actualmente está cursando un doctorado en inteligencia artificial cuántica.También es el científico principal de datos de Deeptek.Está en Twitter en @virajzero.
