El pasado 1 de agosto, con la entrada en vigor del Reglamento de inteligencia artificial (AIA), se puso en marcha la cuenta regresiva para ajustar los sistemas de IA a la nueva normativa antes de que \u00e9sta sea aplicable. Realizar este ejercicio de adecuaci\u00f3n en el campo de la salud exige, entre otras cosas, que se consideren ciertos requisitos en materia de dise\u00f1o, protecci\u00f3n de derechos, transparencia y, en general, un marco de responsabilidad \u00e9tica vinculado al riesgo.<\/p>\n\n\n\n
Es normal que en estos momentos se est\u00e9 generando un aluvi\u00f3n de mensajes te\u00f3ricos y conceptuales sobre la regulaci\u00f3n y gobernanza en materia de IA. Por ello, seguramente sea tambi\u00e9n de utilidad tener presentes los riesgos y errores que la aplicaci\u00f3n de la IA ya se est\u00e1 ocasionando en otros lugares.<\/p>\n\n\n\n
Buen ejemplo de ello es un pronunciamiento judicial reciente de un Tribunal de Distrito de Tennessee, que ilustra que los algoritmos son una herramienta valiosa, pero no infalible.<\/p>\n\n\n\n
El Estado de Tennessee decidi\u00f3 implementar un sistema de determinaci\u00f3n de elegibilidad electr\u00f3nica en Tenncare, el programa de ayudas estatales en materia de sanidad. En lo que nos interesa, sus algoritmos determinaban si un ciudadano era o no elegible para beneficiarse de la cobertura sanitaria. Varios errores tanto en la calidad de los datos, como en el dise\u00f1o del algoritmo o la falta de adecuada supervisi\u00f3n humana llevaron a que en muchas ocasiones se denegase asistencia sanitaria a personas que objetivamente cumpl\u00edan con los requisitos para acceder a ella.<\/p>\n\n\n\n
Entre los errores del algoritmo destacar\u00edamos que el sistema de IA infravaloraba algunas categor\u00edas poblacionales, y como resultado, no valoraba si un ciudadano que ya no cumpl\u00eda los requisitos de un determinado nivel de cobertura pod\u00eda ser reubicado en otro.<\/p>\n\n\n\n
Lo que podr\u00eda ser un error puntual, se convert\u00eda en un error sistem\u00e1tico a medida que se repet\u00edan las mismas operaciones y se alcanzaban las mismas conclusiones err\u00f3neas una y otra vez, sin que se supervisase adecuadamente su funcionamiento.<\/p>\n\n\n\n
Errores de dise\u00f1o, poca calidad de los datos y exceso de confianza son algunos de los puntos por los que el juez concluye que los ciudadanos no deber\u00edan depender de la suerte, la perseverancia o la abogac\u00eda entusiasta para recibir los beneficios que la ley les proporciona.<\/p>\n\n\n\n
Una herramienta de IA similar a la comentada ser\u00eda considerada en la Uni\u00f3n Europea como un sistema de alto riesgo, y se le exigir\u00eda para que fuera operativa que implementara una serie de requisitos en materia de transparencia, gesti\u00f3n de la calidad, identificaci\u00f3n de sesgos y muy singularmente la necesidad de evaluar su conformidad.<\/p>\n\n\n\n
Por ello, cuando se trata de implementar herramientas de IA en salud, tal vez podamos renunciar a la suerte, pero sin duda debemos tener perseverancia y, a poder ser, un abogado entusiasta cerca.<\/p>\n","protected":false},"excerpt":{"rendered":"
El pasado 1 de agosto, con la entrada en vigor del Reglamento de inteligencia artificial (AIA), se puso en marcha la cuenta regresiva para ajustar los sistemas de IA a la nueva normativa antes de que \u00e9sta sea aplicable. Realizar este ejercicio de adecuaci\u00f3n en el campo de la salud exige, entre otras cosas, que… <\/p>\n