• Para limitar los riesgos y maximizar las oportunidades intrínsecas al uso de la inteligencia artificial para la salud, la OMS ha elaborado una serie de principios como base para la regulación y la gobernanza de la IA.

Bajo el título "Ética y gobernanza de la inteligencia artificial para la salud", la Organización Mundial de la Salud (OMS) ha hecho público este lunes el primer informe mundial sobre Inteligencia Artificial (IA) en el ámbito de la salud, en el que se analiza las oportunidades y desafíos que entraña para los gobiernos, proveedores y para la sociedad en general.

Fruto de dos años de consultas mantenidas por un panel de expertos internacionales designados por la OMS, recoge seis principios para garantizar que la IA funcione para el interés público en todos los países

"Este nuevo informe importante proporciona una guía valiosa para los países sobre cómo maximizar los beneficios de la IA, minimizando sus riesgos y evitando sus trampas".​ha indicado, al respecto, el director general de la OMS, Dr. Tedros Adhanom Ghebreyesus. "Como toda tecnología nueva, la inteligencia artificial tiene un enorme potencial para mejorar la salud de millones de personas en todo el mundo, pero como toda tecnología, también puede ser mal utilizada y causar daños", añade.

Uno de los principales mensajes extraídos del informe es que, como remarca la OMS, los sistemas de IA deben diseñarse cuidadosamente para reflejar la diversidad de entornos socioeconómicos y de atención de la salud. Deben ir acompañadas de capacitación en habilidades digitales, participación comunitaria y sensibilización, especialmente para millones de trabajadores de la salud que requerirán alfabetización digital o reciclaje si sus roles y funciones están automatizados, y que deben lidiar con máquinas que podrían desafiar la decisión. toma de decisiones y autonomía de proveedores y pacientes.

Así, el nuevo informe de la OMS advierte contra la sobreestimación de los beneficios de la IA para la salud, especialmente cuando esto ocurre a expensas de las inversiones y estrategias básicas necesarias para lograr la cobertura sanitaria universal.

Asimismo, señala que las oportunidades están vinculados a los desafíos y riesgos, incluyendo la recolección y uso de datos de salud no ética; sesgos codificados en algoritmos y riesgos de la IA para la seguridad del paciente, la ciberseguridad y el medio ambiente.

Además, las acciones en este terreno han de estar guiadas por las leyes existentes y las obligaciones de derechos humanos, y las nuevas leyes y políticas que consagran los principios éticos, los gobiernos, los proveedores y los diseñadores deben trabajar juntos para abordar las preocupaciones sobre la ética y los derechos humanos en cada etapa del diseño, desarrollo e implementación de una tecnología de inteligencia artificial. .

Seis principios básicos

Al objeto de garantizar que la IA funcione para el interés público en todos los países la OMS incluye en el informe seis principios básicos para reforzar los esfuerzos encaminados a garantizar que todo el potencial de la IA para la atención sanitaria y la salud pública se utilice en beneficio de todos.

Protección de la autonomía humana: En el contexto de la atención de la salud, esto significa que las personas deben mantener el control de los sistemas de atención de la salud y las decisiones médicas; Se debe proteger la privacidad y la confidencialidad, y los pacientes deben dar un consentimiento informado válido a través de marcos legales apropiados para la protección de datos.

Promover el bienestar y la seguridad humanos y el interés público: Los diseñadores de tecnologías de IA deben satisfacer los requisitos reglamentarios de seguridad, precisión y eficacia para casos de uso o indicaciones bien definidos. Deben estar disponibles medidas de control de calidad en la práctica y mejora de la calidad en el uso de IA.

Asegurar transparencia, explicabilidad e inteligibilidad: La transparencia requiere que se publique o documente suficiente información antes del diseño o implementación de una tecnología de IA. Dicha información debe ser fácilmente accesible y facilitar una consulta pública significativa y un debate sobre cómo se diseña la tecnología y cómo debe o no debe usarse.

Fomento de la responsabilidad y la rendición de cuentas: Aunque las tecnologías de IA realizan tareas específicas, es responsabilidad de las partes interesadas asegurarse de que se utilicen en las condiciones adecuadas y por personas debidamente capacitadas. Deben estar disponibles mecanismos efectivos para interrogar y reparar a las personas y grupos que se vean afectados negativamente por decisiones basadas en algoritmos.

Garantizar la inclusión y la equidad: La inclusión requiere que AI para la salud se diseñe para fomentar el uso y acceso equitativo más amplio posible, independientemente de la edad, sexo, género, ingresos, raza, etnia, orientación sexual, capacidad u otras características protegidas por los códigos de derechos humanos.

Promover una IA que sea receptiva y sostenible: Los diseñadores, desarrolladores y usuarios deben evaluar de manera continua y transparente las aplicaciones de IA durante el uso real para determinar si la IA responde de manera adecuada y apropiada a las expectativas y requisitos. Los sistemas de inteligencia artificial también deben diseñarse para minimizar sus consecuencias ambientales y aumentar la eficiencia energética. Los gobiernos y las empresas deben abordar las interrupciones anticipadas en el lugar de trabajo, incluida la capacitación para que los trabajadores de la salud se adapten al uso de sistemas de inteligencia artificial y las posibles pérdidas de empleos debido al uso de sistemas automatizados.

Fuente: im médico, World Health Organ​