Diez aportaciones para un marco eficiente que regule el uso de la inteligencia artificial en el ciclo de vida de los medicamentos

La Agencia Europea del Medicamento (EMA) abrió a consulta pública un “documento de reflexión” sobre el uso de la inteligencia artificial (IA) en el desarrollo y regulación de los medicamentos de uso humano y veterinarios. Estas han sido nuestras sugerencias al respecto:

Consideraciones generales: transparencia

Es fundamental, en materia de IA y machine learning (ML), garantizar la transparencia y la inteligibilidad de los sistemas utilizados. Una de las herramientas más adecuadas para lograrlo es que las compañías cuenten con un marco adecuado de documentación jurídica que aborde cuestiones de cumplimiento normativo, evaluación de riesgos, protección de datos y planes de mitigación. Esta necesidad puede ser más evidente en contextos de riesgo alto, pero incluso cuando los usos de IA se cataloguen como de menor riesgo, esta labor de documentación debe considerarse una buena práctica a promover.

Una taxonomía común

Es importante trabajar con una taxonomía y unas definiciones de los conceptos y principios básicos de los sistemas IA que sean comunes para todos. De este modo, se evitarían situaciones en las que un sistema pueda ser considerado IA por la EMA y no por otros organismos o instituciones, por ejemplo.

En este sentido, la EMA debería adoptar la misma definición de sistema de IA que se adopte en el Reglamento sobre IA (comúnmente referido como “Artificial Intelligence Act”). Si bien en el momento de redactar esta publicación el reglamento se encuentra en su fase última de tramitación, todo apunta a que la definición de sistema de IA será la misma que la propuesta por la OCDE. La OCDE ha definido la IA como “un sistema basado en máquinas que, con objetivos explícitos o implícitos, infiere, a partir de la entrada que recibe, cómo generar salidas tales como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales. Los distintos sistemas de IA varían en sus niveles de autonomía y capacidad de adaptación tras su despliegue”.

Ensayos clínicos

En general, apoyamos el planteamiento de la EMA sobre la necesidad de que los sistemas de IA utilizados en ensayos clínicos cumplan las buenas prácticas clínicas (Directriz ICH E6 sobre buenas prácticas clínicas). En nuestra opinión, esas directrices generales pueden coexistir con un asesoramiento específico sobre buenas prácticas para los usos más comunes de la IA/ML en el contexto de un ensayo clínico. Además, sería recomendable que la EMA explicitase que, cuando los sistemas de IA/ML se utilicen para la realización de ensayos clínicos, las normas y métricas sobre la calidad de los datos deberán estar bien documentadas (las dimensiones a las que hacen referencia, cómo de confiables son los datos, su mutabilidad, posibilidad de sesgos, etc).

En cuanto a los específicos usos de la IA en el contexto de los ensayos clínicos, hemos observado que los sistemas de IA se utilizan a menudo para la captación de pacientes. Teniendo en cuenta que se está tramitando el Espacio Europeo de Datos Sanitarios (“EHDS”), es necesario garantizar un uso ético de los datos y contar con mecanismos para evaluar los posibles efectos de los sesgos de reclutamiento que puedan derivar de características geográficas, demográficas o personales. Ello será especialmente relevante si el EHDS prevé finalmente establecer cláusulas de consentimiento para inclusión (“opt-in”) o la posibilidad de exclusión voluntaria (“opt-out”) para usos secundarios, dado que los estudios parecen apuntar a que estos derechos se emplean de forma desigual en distintos grupos sociales.

Los sistemas de IA también pueden emplearse para predecir posibles efectos adversos, interacciones o para controlar la seguridad durante la realización del ensayo clínico. El análisis preliminar de la EMA diferencia entre ensayos clínicos en fase inicial y ensayos clínicos pivotales. En nuestra opinión, este enfoque podría mejorarse si la asignación de riesgos dependiera no sólo del tipo de ensayo clínico, sino también del riesgo inherente al uso previsto. Por ejemplo, el riesgo del uso de IA/ML para optimizar o gestionar el diseño del protocolo puede variar en función de factores como el uso de evidencias del mundo real (“real world evidence”) obtenidas para reevaluar la corrección del algoritmo o la intención de aplicar conjuntos de datos a poblaciones con datos limitados (por ejemplo, en el caso de enfermedades pediátricas o raras).

Además, el uso de la IA/ML puede ayudar a superar algunos obstáculos que presentan los ensayos clínicos descentralizados, como la recopilación y el tratamiento de los datos. Dado que los pacientes se encuentran fuera de las instalaciones, deben presentar de forma regular y consciente sus propios datos de participación. Esto puede plantear problemas de cumplimiento por parte de los pacientes y errores en los datos. Los promotores, las CRO y las instituciones de investigación pueden aprovechar la IA para resolver estos problemas de varias maneras: por ejemplo, pueden crear algoritmos para analizar los datos de los pacientes y tomar decisiones que logren el resultado deseado, en este caso, el cumplimiento constante de los pacientes. La IA puede optimizar y generar notificaciones que insten a los pacientes a completar las evaluaciones electrónicas de resultados clínicos (“eCOA”, por sus siglas en inglés) para obtener un conjunto de datos más fiable. Además, los programas de IA pueden apoyar a los pacientes en el proceso de envío de sus datos analizando su calidad de forma previa. Por ejemplo, un programa de IA puede evaluar una imagen para ver si cumple los requisitos del ensayo clínico. A continuación, puede pedir al paciente que vuelva a tomar la imagen con recomendaciones relativas a la calidad de la imagen, como la iluminación o el ángulo. De este modo se limita la cantidad de envíos insuficientes o de calidad inferior, con lo que se reducen los errores de procesamiento de datos.

Gestión de actualizaciones y nuevas versiones

Los sistemas de IA evolucionan constantemente. El proceso de incorporación de actualizaciones y nuevas versiones de sistemas ya existentes deberá ser factible y combinar la necesidad de mantener la seguridad de los pacientes sin poner trabas excesivas e innecesarias a la innovación.

Es comprensible que la EMA no quiera regular este aspecto en detalle, ya que la tecnología avanza a un ritmo muy rápido actualmente. Sugerimos desarrollar un marco de referencia sobre cómo gestionar las actualizaciones de los sistemas IAs existentes en términos de establecer el nivel de soporte documental y de formación que se va a requerir, así como los aspectos procedimentales desde un punto de vista regulatorio, de acuerdo con un enfoque basado en el riesgo.

Información de producto

El riesgo más común en materia de información de producto generada mediante IA (piénsese, por ejemplo, en un prospecto) es que los modelos pueden incluir frases o información gramaticalmente plausible, pero erróneas en cuanto a su contenido.

Nuestra recomendación es que el trabajo de la EMA vaya de la mano del desarrollo de la información electrónica sobre los productos (“ePi”, por sus siglas en inglés) prevista en la propuesta de revisión de la legislación farmacéutica de la UE.

Por ejemplo, si se utilizaran modelos de IA/ML para procesar cambios en el perfil de seguridad de los medicamentos o adaptar la información sobre el producto al perfil del paciente, podrían desencadenarse riesgos de errores, sesgos y desinformación causando, probablemente, consecuencias en la salud pública. Por lo tanto, sugerimos que la EMA explore mejores prácticas en materia de prevención y colabore estrechamente con los profesionales sanitarios en este ámbito.

Gestión medioambiental

La fabricación y el uso de medicamentos tienen importantes repercusiones en el medio ambiente. A este respecto, la revisión de la legislación farmacéutica general de la UE ha detectado lagunas y propone reforzar las obligaciones de los fabricantes. Creemos que la IA puede ser otra gran aliada en esta materia, por ejemplo, en la determinación y cálculo de impacto de riesgos ambientales o en las labores de seguimiento. Por ello, el documento de la EMA debería dedicar una sección a abordar cómo la IA puede apoyar la reducción del impacto medioambiental de los medicamentos.

Colaboración entre autoridades y con el sector de productos sanitarios

En el sector salud debemos tener en cuenta que la mayoría de los usos de la IA se integrarán en productos sanitarios categorizados como de alto riesgo según el futuro Reglamento de IA. Sugerimos considerar que (i) la necesidad de transparencia deberá combinarse con el hecho de que los productos sanitarios no tienen la protección regulatoria de los medicamentos, por lo que la normativa tiene que ser cautelosa para no disuadir la investigación y la innovación ante lo que se podría percibir como una protección insuficiente de datos comercial o técnicamente sensibles, como por ejemplo determinados datos relativos al funcionamiento del algoritmo; y (ii) en la medida de lo posible, la evaluación de conformidad de productos sanitarios y la evaluación para usos de alto riesgo según el reglamento de IA se realice de forma conjunta a fin de evitar solapamientos y/o divergencias.

Régimen de responsabilidad

En el momento de redacción de este artículo, se está tramitando la Directiva del Parlamento Europeo y del Consejo relativa a la adaptación de las normas sobre responsabilidad civil extracontractual a la inteligencia artificial (Directiva sobre responsabilidad por IA).

Si bien se trata de una Directiva horizontal, esto es, no específica del sector de las ciencias de la salud, la EMA debería considerar cómo el régimen de responsabilidad propuesto para los daños causados por productos y servicios habilitados por la IA podría afectar al ciclo de vida del medicamento. Esta evaluación deberá revisarse y, en su caso, actualizarse a medida que avance la tramitación de la Directiva sobre responsabilidad por IA.

Hacia un ecosistema de salud integrado

Las soluciones que promueven un enfoque coordinado de la asistencia sanitaria, al tiempo que ayudan a los pacientes a gestionar su propia salud, están creciendo rápidamente y tienen un potencial real para hacer avanzar la asistencia sanitaria. El borrador de informe de la EMA ofrece consideraciones sobre el uso de la IA/ML en el ciclo de vida de los medicamentos, incluida la fase posterior a la autorización donde podría encajarse esta dimensión asistencial.

Algunas propuestas legislativas empiezan a adoptar un enfoque similar. Por ejemplo, uno de los aspectos que se están estudiando en el EHDS es el uso de datos procedentes de wearables y aplicaciones de bienestar recogidas en el día a día del paciente, tanto para usos primarios como secundarios. Del mismo modo, la EMA también debería considerar el potencial de los datos del mundo real en el seguimiento de los pacientes. Estos usos tienen niveles de riesgo distintos: no es lo mismo que el sistema de IA/ML se utilice para informar o impulsar la gestión clínica (menor riesgo) que para tratar o diagnosticar (mayor riesgo). El documento de reflexión de la EMA podría ofrecer en su versión final algunas recomendaciones, agrupando los tipos de intervenciones más comunes.

Asimismo, los sistemas de IA en este contexto pueden tener un uso de gran relevancia en el contexto de la detección precoz de problemas de suministro mediante el uso creciente de los datos disponibles y los algoritmos.

La importancia del uso de los sistemas de IA para apoyar la experiencia del paciente

Podría dar la impresión de que abordar el uso de sistemas de IA a lo largo de la experiencia del paciente está estrechamente vinculado a prestación de asistencia sanitaria y, por tanto, podría entrar en el ámbito de competencia de los Estados miembros con arreglo al artículo 168 del Tratado de Funcionamiento de la UE (TFUE).

Por otro lado, el uso de sistemas de IA podría ayudar a adoptar decisiones relevantes en materia de adherencia al tratamiento, cambios en las intervenciones o la dosificación. Dado este impacto directo en el ciclo de vida de los medicamentos, sugerimos que la EMA siga explorando este ámbito y ofrezca recomendaciones sobre cómo integrar estos datos en las decisiones posteriores a la autorización de un medicamento.