Hay muchas fuentes de riesgo y responsabilidad cuando se usa AI.Estos pueden variar desde los derechos de propiedad intelectual, GDPR, la inminente regulación de la IA, los requisitos regulatorios específicos del sector e incluso la legislación de igualdad.Sin embargo, contratar para la IA se trata de la asignación voluntaria de riesgos y el enfoque adoptado a esto puede variar ampliamente.Como contratar para la IA es en una etapa relativamente temprana, hay un grado de incertidumbre sobre cómo abordarla.Este es particularmente el caso cuando se trata de lidiar con problemas de responsabilidad..
En pocas palabras, la IA es un software que realiza tareas típicamente asociadas con inteligencia y actuación con cierto grado de autonomía.Por lo tanto, siempre hay un elemento de imprevisibilidad en el resultado y la salida..Tratar con esta imprevisibilidad y comprender cómo minimizarlo es un tema clave al considerar la asignación de responsabilidad en un contrato para la provisión de servicios impulsados por la IA.
Algunos proveedores pueden buscar adoptar el enfoque que debido a la potencial imprevisibilidad de los resultados, no asumirán ningún pasivo que surja de la IA.Para la gran mayoría de los clientes, esto simplemente no será lo suficientemente bueno y no será una base sobre la cual puedan contratar.
Por lo tanto, está en los intereses del proveedor y del cliente a un enfoque considerado, informado y razonable para la asignación de responsabilidad en un contrato de IA..La pregunta entonces es, ¿cómo haces esto?
Diligencia debida precontractual
Las partes de los clientes deben llevar a cabo la debida diligencia en la tecnología de salud digital en sí, además de su diligencia debida previa al contrato normal en el proveedor.El objetivo del cliente es tener una comprensión clara de lo que el sistema de IA puede entregar.En nuestra experiencia, este es un proceso iterativo.
El proveedor debe tener un conjunto de documentos estándar que establezcan los detalles de la oferta de IA.Este material a veces puede ser difícil para un no experto de entender.Por lo tanto, el cliente debe comprometerse con el proveedor para obtener los detalles sobre lo que la IA puede entregar y cómo logra esos entregables..
Transparencia y responsabilidad
La transparencia en esta compleja área de tecnología de salud digital es imprescindible para ambas partes.Puede haber una tendencia a evitar la complejidad técnica, pero la única forma en que el cliente podrá establecer qué elementos del sistema están dentro del control del proveedor, y qué elementos no serán, para abrir la "caja negra" yObtenga una visión clara de cómo funciona el sistema.Los elementos que están en el control del proveedor deben establecerse en el contrato como cosas de las que el proveedor es responsable.
Este problema de transparencia es de particular importancia cuando se trata de responsabilidad y, por lo tanto, la responsabilidad de los resultados.¿Cómo se llegan las salidas y qué elemento de eso está en el control del proveedor?Los proveedores pueden buscar evitar incluir cualquier compromiso en los resultados que entregará la IA.Sin embargo, un cliente que tiene una visión clara de cómo se llegan a esos resultados podrá abordar dicho enfoque de manera informada.Un proveedor bien aconsejado debe poder explicar y demostrar el diseño y el proceso utilizados por la IA desde el principio..Esto ayudará a la participación del cliente y ayudará a generar confianza en el sistema..
Una vez que se logra la transparencia, el siguiente paso vinculado es la responsabilidad.Las partes deben considerar:
Este enfoque granular a menudo será la clave para comprender las responsabilidades y, por lo tanto, asignar responsabilidad.
Pruebas, informes y auditoría
Las pruebas de la IA al comienzo del contrato y de manera continua serán críticas.Dichas pruebas continuas servirán para atrapar un problema desde el principio y, por lo tanto, evitarán un problema sistémico en desarrollo.También le dará visibilidad al cliente y permitirá que el cliente responsabilice al proveedor, cuando sea necesario.
Los clientes deben asegurarse de que los proveedores deben mantener registros en la operación y prueba de la IA y que pongan estos registros disponibles a pedido.Estas obligaciones de informes deben estar respaldadas por los derechos de auditoría para los clientes..El objetivo de informar y auditoría es permitir que el cliente busque administrar su propio riesgo que surja de la IA al ser informado de manera consistente, al tiempo que proporciona una pista de auditoría responsable si surge un problema..
Al tratar con sistemas de IA que se implementan en o como parte de los dispositivos regulados bajo el Reglamento de dispositivos médicos (UE) 2017/745 o el Reglamento de dispositivos médicos de diagnóstico in vitro (UE) 2017/746, estrictos controles de proveedores proporcionados como parte de la calidad de calidad de calidadLos requisitos del sistema de gestión bajo esas piezas de legislación también deben contabilizarse.Incluso en los casos en que un producto general de salud o bienestar utiliza herramientas de IA, pero no está regulado como un dispositivo médico o un dispositivo de diagnóstico in vitro, los requisitos sobre el mantenimiento de registros y la auditoría deben considerarse cuidadosamente.
Su cláusula de responsabilidad
Como con cualquier contrato de TI, los proveedores buscarán limitar su responsabilidad mediante una limitación y exclusión de la cláusula de responsabilidad.Esto no será diferente para los contratos de IA.Las reglas normales se aplicarán, a saber, la fuerza de las posiciones de negociación respectivas de las partes será el factor determinante clave en la redacción de cualquier cláusula de responsabilidad.El problema para los clientes es asegurarse de que el proveedor no busque excluir la responsabilidad de los asuntos que realmente están en el control del proveedor, ya sea en su totalidad o en parte, y por lo que el proveedor debe ser responsable de la responsabilidad..
El aspecto único de la contratación de la IA es lidiar con la responsabilidad derivada de los resultados que realmente solo están en el control de la propia IA..Sin embargo, en nuestra experiencia, cuando el cliente realiza una diligencia debida adecuada y logra transparencia, esto, en muchos casos, resulta no ser un problema importante.
