Gobernanza ética de la IA en salud pública: un desafío urgente

• Los expertos destacan que el uso irresponsable de la inteligencia artificial puede reforzar desigualdades sanitarias.
• Se aboga por una gobernanza sólida y equitativa que garantice la transparencia y la protección de los datos.
• La participación comunitaria y las salvaguardias específicas son clave para el uso ético de la IA en salud.

En un análisis publicado en American Journal of Public Health, expertos internacionales advierten sobre los riesgos que conlleva el uso no regulado de la inteligencia artificial (IA) en el ámbito de la salud pública. El estudio, liderado por el doctor Terry Adirim y la doctora Amy Molten, resalta cómo los sistemas de IA pueden generar sesgos al procesar datos históricamente desequilibrados o incompletos, lo que puede profundizar las desigualdades en el acceso a servicios sanitarios. La gobernanza ética se presenta como una pieza fundamental para evitar consecuencias negativas en poblaciones vulnerables.

¿Qué consecuencias tiene la falta de gobernanza ética en IA?

El problema principal no radica en los algoritmos por sí mismos, sino en su implementación dentro de un sistema social y político que ya está marcado por desigualdades. La IA puede perpetuar esas desigualdades si no se controlan adecuadamente sus decisiones. Por ejemplo, los datos comerciales utilizados para entrenar modelos pueden reflejar patrones discriminativos o incluso violar la privacidad de ciertos grupos.

El doctor Adirim señala que el riesgo varía según las poblaciones afectadas: «Las amenazas a la privacidad del desarrollo infantil difieren de las preocupaciones sobre la soberanía de los datos de las comunidades indígenas; los riesgos de clasificación errónea para los adultos mayores difieren de los temores relacionados con la vigilancia de las familias indocumentadas o las personas encarceladas».

Esto subraya que no existe una solución única, sino que se requiere un enfoque adaptado a cada contexto. Por eso, se recomienda el monitoreo continuo de sesgos, la validación comunitaria y estándares nacionales para garantizar la transparencia.

Impacto y perspectivas

La implementación responsable de la IA no solo debe considerar aspectos técnicos, sino también sociales, culturales y éticos. La participación activa de las comunidades afectadas es clave para que las herramientas desarrolladas respondan a sus necesidades reales, en lugar de imponer soluciones desde arriba.

La vigilancia de la salud pública mediante herramientas de IA conductual conlleva riesgos como la manipulación y la desinformación. Además, la brecha digital entre zonas rurales y urbanas puede limitar el acceso a estos avances tecnológicos para ciertos grupos, lo que reforzaría las disparidades existentes.

Ejemplo práctico

Imagina un sistema de IA utilizado en una región rural para predecir brotes epidemiológicos. Si los datos utilizados están sesgados hacia zonas urbanas, el modelo podría no detectar patrones relevantes en áreas menos conectadas, lo que afectaría la eficacia del sistema y perpetuaría las desigualdades de acceso a la salud.

¿Qué dice la comunidad científica?

La comunidad internacional está tomando conciencia de estos riesgos. La propuesta de gobernanza transversal incluye salvaguardias específicas para cada grupo poblacional, validación comunitaria y participación activa en el desarrollo de los algoritmos.

¿Qué consecuencias tiene?

• Riesgo de discriminación: Los modelos pueden perpetuar desigualdades si no se controlan adecuadamente.
• Violaciones de la privacidad: El uso de datos comerciales puede llevar a una vigilancia invasiva.
• Brecha digital: Puede limitar el acceso a herramientas avanzadas para poblaciones marginadas.

¿Por qué es importante ahora?

La IA está en pleno auge y su aplicación en salud pública se expande rápidamente. Sin un marco ético sólido, los beneficios que podría aportar (como diagnósticos más precisos o personalización de tratamientos) podrían ser anulados por sus riesgos.