La estudiante de Laboratory for Information and Decision Systems (Lids) Sarah Cen recuerda la conferencia que la envió en la pista a una pregunta aguas arriba.
En una charla sobre inteligencia artificial ética, el orador planteó una variación sobre el famoso problema del tranvía, que describe una elección filosófica entre dos resultados indeseables.
El escenario del orador: digamos que un auto autónomo viaja por un callejón estrecho con una anciana que camina por un lado y un niño pequeño al otro, y no tiene forma de enhebrar entre ambos sin una muerte..¿A quién debería golpear el auto?
Entonces el altavoz dijo: Demos un paso atrás.¿Es esta la pregunta que deberíamos hacer?
Fue entonces cuando las cosas hicieron clic para CEN.En lugar de considerar el punto de impacto, un automóvil autónomo podría haber evitado elegir entre dos malos resultados tomando una decisión antes: el orador señaló que, al ingresar al callejón, el automóvil podría haber determinado que el espacio era estrecho ydesaceleró a una velocidad que mantendría a todos a salvo.
Reconociendo que los enfoques de seguridad de IA de hoy a menudo se parecen al problema del tranvía, centrándose en la regulación posterior, como la responsabilidad después de que alguien no tenga buenas opciones, Cen se preguntó: ¿qué pasaría si pudiéramos diseñar mejores salvaguardas aguas arriba y aguas abajo a tales problemas?Esta pregunta ha informado mucho del trabajo de Cen.
"Los sistemas de ingeniería no están divorciados de los sistemas sociales en los que intervienen", dice Cen.Ignorar este hecho corre el riesgo de crear herramientas que no sean útiles cuando se implementan o, lo que es más preocupante, que son dañinos.
Cen llegó a las tapa en 2018 a través de una ruta ligeramente indirecta.Primero recibió la investigación de la investigación durante su licenciatura en la Universidad de Princeton, donde se especializó en ingeniería mecánica.Para su maestría, cambió de curso, trabajando en soluciones de radar en robótica móvil (principalmente para autos autónomos) en la Universidad de Oxford.Allí, desarrolló un interés en los algoritmos de IA, curiosidad por cuándo y por qué se portan mal.Entonces, ella vino al MIT y las tapas para su investigación doctoral, trabajando con el profesor Devavrat Shah en el Departamento de Ingeniería Eléctrica y Ciencias de la Computación, para una base teórica más fuerte en sistemas de información.
Audir los algoritmos de las redes sociales
Junto con Shah y otros colaboradores, CEN ha trabajado en una amplia gama de proyectos durante su tiempo en las tapas, muchos de los cuales se relacionan directamente con su interés en las interacciones entre humanos y sistemas computacionales.En uno de esos proyectos, CEN estudia opciones para regular las redes sociales.Su trabajo reciente proporciona un método para traducir regulaciones legibles por humanos en auditorías implementables.
Para tener una idea de lo que esto significa, suponga que los reguladores requieren que cualquier contenido de salud pública, por ejemplo, en las vacunas, no sea muy diferente para los usuarios políticos de izquierda y derecha..¿Cómo deben los auditores verificar que una plataforma de redes sociales cumpla con esta regulación?¿Se puede hacer una plataforma para cumplir con la regulación sin dañar sus resultados?¿Y cómo afecta el cumplimiento el contenido real que los usuarios ven?
Diseñar un procedimiento de auditoría es difícil en gran parte porque hay muchas partes interesadas cuando se trata de redes sociales.Los auditores deben inspeccionar el algoritmo sin acceder a datos confidenciales del usuario.También tienen que trabajar con secretos comerciales complicados, lo que puede evitar que se vean de cerca del algoritmo que están auditando porque estos algoritmos están legalmente protegidos.También entran en juego otras consideraciones, como equilibrar la eliminación de la información errónea con la protección de la libertad de expresión.
Para enfrentar estos desafíos, CEN y Shah desarrollaron un procedimiento de auditoría que no necesita más que el acceso de caja negra al algoritmo de redes sociales (que respeta los secretos comerciales), no elimina el contenido (lo que evita problemas de censura) y no requiereAcceso a los usuarios (que conserva la privacidad de los usuarios).
En su proceso de diseño, el equipo también analizó las propiedades de su procedimiento de auditoría, descubriendo que garantiza una propiedad deseable que llaman robustez de decisión.Como buenas noticias para la plataforma, muestran que una plataforma puede pasar la auditoría sin sacrificar las ganancias.Curiosamente, también descubrieron que la auditoría incentiva naturalmente a la plataforma para mostrar a los usuarios contenidos diversos, que se sabe que ayuda a reducir la propagación de información errónea, contrarrestar las cámaras de eco y más.
¿Quién obtiene buenos resultados y quién se pone malos?
En otra línea de investigación, CEN analiza si las personas pueden recibir buenos resultados a largo plazo cuando no solo compiten por los recursos, sino que tampoco saben por adelantado qué recursos son los mejores para ellos..
Algunas plataformas, como plataformas de búsqueda de empleo o aplicaciones de viaje compartido, son parte de lo que se llama un mercado coincidente, que utiliza un algoritmo para que coincida con un conjunto de individuos (como trabajadores o corredores) con otro (como empleadores o conductores).En muchos casos, las personas tienen preferencias coincidentes que aprenden a través de prueba y error.En los mercados laborales, por ejemplo, los trabajadores aprenden sus preferencias sobre qué tipo de trabajos desean, y los empleadores aprenden sus preferencias sobre las calificaciones que buscan de los trabajadores..
Pero el aprendizaje puede ser interrumpido por la competencia.Si los trabajadores con antecedentes particulares se les niega los trabajos en tecnología debido a la alta competencia por los trabajos tecnológicos, por ejemplo, es posible que nunca obtengan el conocimiento que necesitan para tomar una decisión informada sobre si quieren trabajar en tecnología..Del mismo modo, los empleadores tecnológicos nunca pueden ver y aprender qué podrían hacer estos trabajadores si fueran contratados.
El trabajo de CEN examina esta interacción entre el aprendizaje y la competencia, estudiando si es posible que las personas en ambos lados del mercado coincidan se alejen feliz.
Modelando tales mercados coincidentes, Cen y Shah descubrieron que de hecho es posible llegar a un resultado estable (los trabajadores no se incentivan a abandonar el mercado correspondiente), con poca lamentación (los trabajadores están contentos con sus resultados a largo plazo), equidad ((La felicidad se distribuye uniformemente) y un alto bienestar social.
Curiosamente, no es obvio que sea posible obtener estabilidad, bajo arrepentimiento, equidad y alto bienestar social simultáneamente.Entonces, otro aspecto importante de la investigación estaba descubriendo cuando es posible lograr los cuatro criterios a la vez y explorar las implicaciones de esas condiciones.
¿Cuál es el efecto de X en y?
Sin embargo, durante los próximos años, CEN planea trabajar en un nuevo proyecto, estudiando cómo cuantificar el efecto de una acción x sobre un resultado y cuando es costoso, o imposible, medir este efecto, centrándose en particular en los sistemas que tienenComportamientos sociales complejos.
Por ejemplo, cuando los casos de Covid-19 surgieron en la pandemia, muchas ciudades tuvieron que decidir qué restricciones adoptar, como mandatos de máscara, cierres de negocios o pedidos de permanencia para el hogar.Tuvieron que actuar rápido y equilibrar la salud pública con necesidades comunitarias y comerciales, gastos públicos y una serie de otras consideraciones..
Por lo general, para estimar el efecto de las restricciones sobre la tasa de infección, uno podría comparar las tasas de infección en áreas que se sometieron a diferentes intervenciones.Si un condado tiene un mandato de máscara, mientras que su condado vecino no lo hace, uno podría pensar que comparar las tasas de infección de los condados revelaría la efectividad de los mandatos de máscara.
Pero, por supuesto, no existe ningún condado en el vacío.Si, por ejemplo, las personas de ambos condados se reúnen para ver un partido de fútbol en el condado de Maskless cada semana, las personas de ambos condados se mezclan.Estas interacciones complejas son importantes, y Sarah planea estudiar cuestiones de causa y efecto en tales entornos.
"Estamos interesados en cómo las decisiones o intervenciones afectan un resultado de interés, como cómo la reforma de la justicia penal afecta las tasas de encarcelamiento o cómo una campaña publicitaria podría cambiar los comportamientos del público", dice CEN.
CEN también ha aplicado los principios de promover la inclusión a su trabajo en la comunidad del MIT.
Como una de las tres copresidentes del Grupo de Estudiantes de Mujeres Graduadas en MIT EECS, ayudó a organizar la Cumbre inaugural de Investigación GW6 que presenta la investigación de mujeres graduadas, no solo para mostrar modelos positivos a los estudiantes, sino también para resaltar los muchos exitososmujeres graduadas en el MIT que no deben ser subestimadas.
Ya sea en la informática o en la comunidad, un sistema que toma medidas para abordar el sesgo es uno que disfruta de la legitimidad y la confianza, dice CEN.“Responsabilidad, legitimidad, confianza: estos principios juegan roles cruciales en la sociedad y, en última instancia, determinarán qué sistemas perduran con el tiempo."
