Publicaciones de la OMS sobre IA

Ética y gobernanza
Regulaciones de la IA en Salud

La OMS publica la guía Ethics and governance of artificial intelligence for health para identificar los beneficios y desafíos relacionados con el uso de los Modelos de Lenguaje de Máquina (LMM) en el ámbito de la salud y en el desarrollo de políticas y prácticas adecuadas para su desarrollo, provisión y utilización. La guía ofrece recomendaciones sobre la gobernanza, tanto a nivel empresarial como gubernamental, promoviendo la colaboración internacional, según los lineamientos de 6 principios rectores. Estos principios deberían guiar el desarrollo y la implementación de la IA en la salud por una amplia gama de actores, incluidos gobiernos, educadores, investigadores y empresas. Los principios son:

Proteger la autonomía. Para garantizar la seguridad y eficiencia de la IA en la salud, los humanos deben tener el control de las decisiones médicas. Además, la privacidad y confidencialidad de los datos deben protegerse mediante un consentimiento informado y marcos legales adecuados.
Promover el bienestar humano, la seguridad humana y el interés público. Los diseñadores de IA deben asegurar que sus sistemas cumplan con las regulaciones de seguridad y precisión para su uso en los cuidados de salud. Se requieren controles de calidad y mecanismos para optimizar constantemente los procesos. La IA no debe utilizarse si existe algún riesgo de daño físico o mental que pueda evitarse con otras intervenciones.
Asegurar la transparencia y la inteligibilidad. La IA debe operar con transparencia haciendo que sus decisiones sean comprensibles para todos. Esto incluye tanto médicos como pacientes. Las explicaciones sobre su funcionamiento deben adaptarse a distintos grados de comprensión según a la audiencia a la que se dirigen.
Fomentar la responsabilidad y la rendición de cuentas. Para asegurar el uso responsable de la IA en los servicios de salud, se requiere capacitación adecuada del personal y la evaluación de pacientes y profesionales en su desarrollo e implementación. De igual forma, deben crearse mecanismos para reclamos y compensación si la IA perjudica a individuos o grupos.
Garantizar la inclusión y la equidad. La IA debe fomentar un acceso más amplio, apropiado y equitativo, sin distinción de edad, identidad de género, ingresos, raza, orientación sexual, capacidad y otras características. La IA no debe perpetuar ni acrecentar sesgos en detrimento de grupos desaventajados. La IA tiene que ser supervisada y evaluada para identificar sesgos potenciales en grupos específicos de personas.
Promover una IA que sea receptiva y sostenible. La IA debe promover la sostenibilidad en la salud, el medioambiente y el trabajo. Los sistemas pueden optimizar recursos y mejorar la eficiencia medioambiental para mejorar la gestión de recursos naturales. En el caso de los entornos laborales, pueden automatizar tareas y mejorar la seguridad de los trabajadores.

Ethics and governance of artificial intelligence for health. Guidance on large multi-modal models Por World Health Organization
ISBN: 9789240084759

El documento Regulatory considerations on Artificial intelligence for health está diseñado como un recurso para desarrolladores, reguladores, fabricantes de dispositivos médicos con IA, profesionales de la salud y otros profesionales relacionados con el campo. Proporciona una visión general de las consideraciones regulatorias sobre la IA en la salud que abarca 6 áreas temáticas clave:

Documentación y transparencia. Documentar y especificar de antemano los procesos de la IA en la atención médica. Esto incluye definir claramente el propósito médico, la selección y uso de datos, los estándares de referencia y métricas. Esta documentación debe ser trazable, permitiendo la revisión de cada paso.
Gestión de riesgos y enfoque del ciclo de vida del desarrollo de sistemas de IA. Aplicar un enfoque de ciclo de vida total de la IA. Esto implica una gestión activa en tres fases principales: gestión de desarrollo previo al mercado, vigilancia post-mercado y gestión de cambios. También, debe integrarse una gestión de riesgos que aborde problemas específicos de la IA, como la ciberseguridad, errores de ajuste, sesgos algorítmicos y otros riesgos potenciales.
Uso previsto y validación analítica y clínica. Proporcionar con total transparencia la documentación sobre el uso previsto del sistema de IA. Los detalles del entrenamiento que sustentan el sistema IA deben ser documentados y proporcionados a los usuarios. Esto incluye: tamaño, contexto y población, datos de entrada y salida, y composición demográfica, entre otros.
Calidad de los datos. Considerar si los datos disponibles son de calidad suficiente para que la implementación del sistema de IA logré el propósito previsto. Deben hacerse evaluaciones rigurosas antes de la implementación del sistema para evitar la amplificación de sesgos y errores. El buen diseño y la rápida resolución de problemas permiten la detección temprana de problemas con la calidad de los datos, previniendo riesgos y fomentando ecosistemas que faciliten un intercambio de datos de alta calidad.
Privacidad y protección. Asegurar la protección de los datos en los sistemas de IA. Los desarrolladores deben comprender las leyes y regulaciones asegurando su cumplimiento. Debe implementarse un programa que gestione los riesgos y garantice las prácticas de privacidad y ciberseguridad.
Participación y colaboración. Impulsar la innovación y adopción de la IA, para desarrollar plataformas accesibles que promuevan la participación y colaboración entre las partes interesadas. Simplificar los procesos de supervisión regulatoria a través de esta colaboración permitirá adaptarnos al rápido avance de estas tecnologías.

Se recomienda el análisis de estas consideraciones con el propósito de desarrollar marcos y mejores prácticas para el uso de la IA en la atención médica y otros servicios de salud. Para más información puede consultar Regulatory considerations on Artificial intelligence for health .