La Agencia Europea del Medicamento (EMA) abri\u00f3 a consulta p\u00fablica un \u201cdocumento de reflexi\u00f3n\u201d sobre el uso de la inteligencia artificial (IA) en el desarrollo y regulaci\u00f3n de los medicamentos de uso humano y veterinarios. Estas han sido nuestras sugerencias al respecto:<\/p>\n\n\n\n
Consideraciones generales: transparencia<\/strong><\/p>\n\n\n\n Es fundamental, en materia de IA y machine learning (ML), garantizar la transparencia y la inteligibilidad de los sistemas utilizados. Una de las herramientas m\u00e1s adecuadas para lograrlo es que las compa\u00f1\u00edas cuenten con un marco adecuado de documentaci\u00f3n jur\u00eddica que aborde cuestiones de cumplimiento normativo, evaluaci\u00f3n de riesgos, protecci\u00f3n de datos y planes de mitigaci\u00f3n. Esta necesidad puede ser m\u00e1s evidente en contextos de riesgo alto, pero incluso cuando los usos de IA se cataloguen como de menor riesgo, esta labor de documentaci\u00f3n debe considerarse una buena pr\u00e1ctica a promover.<\/p>\n\n\n\n Una taxonom\u00eda com\u00fan<\/strong><\/p>\n\n\n\n Es importante trabajar con una taxonom\u00eda y unas definiciones de los conceptos y principios b\u00e1sicos de los sistemas IA que sean comunes para todos. De este modo, se evitar\u00edan situaciones en las que un sistema pueda ser considerado IA por la EMA y no por otros organismos o instituciones, por ejemplo.<\/p>\n\n\n\n En este sentido, la EMA deber\u00eda adoptar la misma definici\u00f3n de sistema de IA que se adopte en el Reglamento sobre IA (com\u00fanmente referido como \u201cArtificial Intelligence Act\u201d). Si bien en el momento de redactar esta publicaci\u00f3n el reglamento se encuentra en su fase \u00faltima de tramitaci\u00f3n, todo apunta a que la definici\u00f3n de sistema de IA ser\u00e1 la misma que la propuesta por la OCDE. La OCDE ha definido la IA como \u201cun sistema basado en m\u00e1quinas que, con objetivos expl\u00edcitos o impl\u00edcitos, infiere, a partir de la entrada que recibe, c\u00f3mo generar salidas tales como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos f\u00edsicos o virtuales. Los distintos sistemas de IA var\u00edan en sus niveles de autonom\u00eda y capacidad de adaptaci\u00f3n tras su despliegue\u201d.<\/p>\n\n\n\n Ensayos cl\u00ednicos<\/strong><\/p>\n\n\n\n En general, apoyamos el planteamiento de la EMA sobre la necesidad de que los sistemas de IA utilizados en ensayos cl\u00ednicos cumplan las buenas pr\u00e1cticas cl\u00ednicas (Directriz ICH E6 sobre buenas pr\u00e1cticas cl\u00ednicas). En nuestra opini\u00f3n, esas directrices generales pueden coexistir con un asesoramiento espec\u00edfico sobre buenas pr\u00e1cticas para los usos m\u00e1s comunes de la IA\/ML en el contexto de un ensayo cl\u00ednico. Adem\u00e1s, ser\u00eda recomendable que la EMA explicitase que, cuando los sistemas de IA\/ML se utilicen para la realizaci\u00f3n de ensayos cl\u00ednicos, las normas y m\u00e9tricas sobre la calidad de los datos deber\u00e1n estar bien documentadas (las dimensiones a las que hacen referencia, c\u00f3mo de confiables son los datos, su mutabilidad, posibilidad de sesgos, etc).<\/p>\n\n\n\n En cuanto a los espec\u00edficos usos de la IA en el contexto de los ensayos cl\u00ednicos, hemos observado que los sistemas de IA se utilizan a menudo para la captaci\u00f3n de pacientes. Teniendo en cuenta que se est\u00e1 tramitando el Espacio Europeo de Datos Sanitarios (\u201cEHDS\u201d), es necesario garantizar un uso \u00e9tico de los datos y contar con mecanismos para evaluar los posibles efectos de los sesgos de reclutamiento que puedan derivar de caracter\u00edsticas geogr\u00e1ficas, demogr\u00e1ficas o personales. Ello ser\u00e1 especialmente relevante si el EHDS prev\u00e9 finalmente establecer cl\u00e1usulas de consentimiento para inclusi\u00f3n (\u201copt-in\u201d) o la posibilidad de exclusi\u00f3n voluntaria (\u201copt-out\u201d) para usos secundarios, dado que los estudios parecen apuntar a que estos derechos se emplean de forma desigual en distintos grupos sociales.<\/p>\n\n\n\n Los sistemas de IA tambi\u00e9n pueden emplearse para predecir posibles efectos adversos, interacciones o para controlar la seguridad durante la realizaci\u00f3n del ensayo cl\u00ednico. El an\u00e1lisis preliminar de la EMA diferencia entre ensayos cl\u00ednicos en fase inicial y ensayos cl\u00ednicos pivotales. En nuestra opini\u00f3n, este enfoque podr\u00eda mejorarse si la asignaci\u00f3n de riesgos dependiera no s\u00f3lo del tipo de ensayo cl\u00ednico, sino tambi\u00e9n del riesgo inherente al uso previsto. Por ejemplo, el riesgo del uso de IA\/ML para optimizar o gestionar el dise\u00f1o del protocolo puede variar en funci\u00f3n de factores como el uso de evidencias del mundo real (\u201creal world evidence\u201d) obtenidas para reevaluar la correcci\u00f3n del algoritmo o la intenci\u00f3n de aplicar conjuntos de datos a poblaciones con datos limitados (por ejemplo, en el caso de enfermedades pedi\u00e1tricas o raras).<\/p>\n\n\n\n Adem\u00e1s, el uso de la IA\/ML puede ayudar a superar algunos obst\u00e1culos que presentan los ensayos cl\u00ednicos descentralizados, como la recopilaci\u00f3n y el tratamiento de los datos. Dado que los pacientes se encuentran fuera de las instalaciones, deben presentar de forma regular y consciente sus propios datos de participaci\u00f3n. Esto puede plantear problemas de cumplimiento por parte de los pacientes y errores en los datos. Los promotores, las CRO y las instituciones de investigaci\u00f3n pueden aprovechar la IA para resolver estos problemas de varias maneras: por ejemplo, pueden crear algoritmos para analizar los datos de los pacientes y tomar decisiones que logren el resultado deseado, en este caso, el cumplimiento constante de los pacientes. La IA puede optimizar y generar notificaciones que insten a los pacientes a completar las evaluaciones electr\u00f3nicas de resultados cl\u00ednicos (\u201ceCOA\u201d, por sus siglas en ingl\u00e9s) para obtener un conjunto de datos m\u00e1s fiable. Adem\u00e1s, los programas de IA pueden apoyar a los pacientes en el proceso de env\u00edo de sus datos analizando su calidad de forma previa. Por ejemplo, un programa de IA puede evaluar una imagen para ver si cumple los requisitos del ensayo cl\u00ednico. A continuaci\u00f3n, puede pedir al paciente que vuelva a tomar la imagen con recomendaciones relativas a la calidad de la imagen, como la iluminaci\u00f3n o el \u00e1ngulo. De este modo se limita la cantidad de env\u00edos insuficientes o de calidad inferior, con lo que se reducen los errores de procesamiento de datos.<\/p>\n\n\n\n Gesti\u00f3n de actualizaciones y nuevas versiones<\/strong><\/p>\n\n\n\n Los sistemas de IA evolucionan constantemente. El proceso de incorporaci\u00f3n de actualizaciones y nuevas versiones de sistemas ya existentes deber\u00e1 ser factible y combinar la necesidad de mantener la seguridad de los pacientes sin poner trabas excesivas e innecesarias a la innovaci\u00f3n.<\/p>\n\n\n\n Es comprensible que la EMA no quiera regular este aspecto en detalle, ya que la tecnolog\u00eda avanza a un ritmo muy r\u00e1pido actualmente. Sugerimos desarrollar un marco de referencia sobre c\u00f3mo gestionar las actualizaciones de los sistemas IAs existentes en t\u00e9rminos de establecer el nivel de soporte documental y de formaci\u00f3n que se va a requerir, as\u00ed como los aspectos procedimentales desde un punto de vista regulatorio, de acuerdo con un enfoque basado en el riesgo.<\/p>\n\n\n\n Informaci\u00f3n de producto<\/strong><\/p>\n\n\n\n El riesgo m\u00e1s com\u00fan en materia de informaci\u00f3n de producto generada mediante IA (pi\u00e9nsese, por ejemplo, en un prospecto) es que los modelos pueden incluir frases o informaci\u00f3n gramaticalmente plausible, pero err\u00f3neas en cuanto a su contenido.<\/p>\n\n\n\n Nuestra recomendaci\u00f3n es que el trabajo de la EMA vaya de la mano del desarrollo de la informaci\u00f3n electr\u00f3nica sobre los productos (\u201cePi\u201d, por sus siglas en ingl\u00e9s) prevista en la propuesta de revisi\u00f3n de la legislaci\u00f3n farmac\u00e9utica de la UE.<\/p>\n\n\n\n Por ejemplo, si se utilizaran modelos de IA\/ML para procesar cambios en el perfil de seguridad de los medicamentos o adaptar la informaci\u00f3n sobre el producto al perfil del paciente, podr\u00edan desencadenarse riesgos de errores, sesgos y desinformaci\u00f3n causando, probablemente, consecuencias en la salud p\u00fablica. Por lo tanto, sugerimos que la EMA explore mejores pr\u00e1cticas en materia de prevenci\u00f3n y colabore estrechamente con los profesionales sanitarios en este \u00e1mbito.<\/p>\n\n\n\n Gesti\u00f3n medioambiental<\/strong><\/p>\n\n\n\n La fabricaci\u00f3n y el uso de medicamentos tienen importantes repercusiones en el medio ambiente. A este respecto, la revisi\u00f3n de la legislaci\u00f3n farmac\u00e9utica general de la UE ha detectado lagunas y propone reforzar las obligaciones de los fabricantes. Creemos que la IA puede ser otra gran aliada en esta materia, por ejemplo, en la determinaci\u00f3n y c\u00e1lculo de impacto de riesgos ambientales o en las labores de seguimiento. Por ello, el documento de la EMA deber\u00eda dedicar una secci\u00f3n a abordar c\u00f3mo la IA puede apoyar la reducci\u00f3n del impacto medioambiental de los medicamentos.<\/p>\n\n\n\n Colaboraci\u00f3n entre autoridades y con el sector de productos sanitarios<\/strong><\/p>\n\n\n\n En el sector salud debemos tener en cuenta que la mayor\u00eda de los usos de la IA se integrar\u00e1n en productos sanitarios categorizados como de alto riesgo seg\u00fan el futuro Reglamento de IA. Sugerimos considerar que (i) la necesidad de transparencia deber\u00e1 combinarse con el hecho de que los productos sanitarios no tienen la protecci\u00f3n regulatoria de los medicamentos, por lo que la normativa tiene que ser cautelosa para no disuadir la investigaci\u00f3n y la innovaci\u00f3n ante lo que se podr\u00eda percibir como una protecci\u00f3n insuficiente de datos comercial o t\u00e9cnicamente sensibles, como por ejemplo determinados datos relativos al funcionamiento del algoritmo; y (ii) en la medida de lo posible, la evaluaci\u00f3n de conformidad de productos sanitarios y la evaluaci\u00f3n para usos de alto riesgo seg\u00fan el reglamento de IA se realice de forma conjunta a fin de evitar solapamientos y\/o divergencias.<\/p>\n\n\n\n R\u00e9gimen de responsabilidad<\/strong><\/p>\n\n\n\n En el momento de redacci\u00f3n de este art\u00edculo, se est\u00e1 tramitando la Directiva del Parlamento Europeo y del Consejo relativa a la adaptaci\u00f3n de las normas sobre responsabilidad civil extracontractual a la inteligencia artificial (Directiva sobre responsabilidad por IA).<\/p>\n\n\n\n Si bien se trata de una Directiva horizontal, esto es, no espec\u00edfica del sector de las ciencias de la salud, la EMA deber\u00eda considerar c\u00f3mo el r\u00e9gimen de responsabilidad propuesto para los da\u00f1os causados por productos y servicios habilitados por la IA podr\u00eda afectar al ciclo de vida del medicamento. Esta evaluaci\u00f3n deber\u00e1 revisarse y, en su caso, actualizarse a medida que avance la tramitaci\u00f3n de la Directiva sobre responsabilidad por IA.<\/p>\n\n\n\n Hacia un ecosistema de salud integrado<\/strong><\/p>\n\n\n\n Las soluciones que promueven un enfoque coordinado de la asistencia sanitaria, al tiempo que ayudan a los pacientes a gestionar su propia salud, est\u00e1n creciendo r\u00e1pidamente y tienen un potencial real para hacer avanzar la asistencia sanitaria. El borrador de informe de la EMA ofrece consideraciones sobre el uso de la IA\/ML en el ciclo de vida de los medicamentos, incluida la fase posterior a la autorizaci\u00f3n donde podr\u00eda encajarse esta dimensi\u00f3n asistencial.<\/p>\n\n\n\n Algunas propuestas legislativas empiezan a adoptar un enfoque similar. Por ejemplo, uno de los aspectos que se est\u00e1n estudiando en el EHDS es el uso de datos procedentes de wearables y aplicaciones de bienestar recogidas en el d\u00eda a d\u00eda del paciente, tanto para usos primarios como secundarios. Del mismo modo, la EMA tambi\u00e9n deber\u00eda considerar el potencial de los datos del mundo real en el seguimiento de los pacientes. Estos usos tienen niveles de riesgo distintos: no es lo mismo que el sistema de IA\/ML se utilice para informar o impulsar la gesti\u00f3n cl\u00ednica (menor riesgo) que para tratar o diagnosticar (mayor riesgo). El documento de reflexi\u00f3n de la EMA podr\u00eda ofrecer en su versi\u00f3n final algunas recomendaciones, agrupando los tipos de intervenciones m\u00e1s comunes.<\/p>\n\n\n\n Asimismo, los sistemas de IA en este contexto pueden tener un uso de gran relevancia en el contexto de la detecci\u00f3n precoz de problemas de suministro mediante el uso creciente de los datos disponibles y los algoritmos.<\/p>\n\n\n\n La importancia del uso de los sistemas de IA para apoyar la experiencia del paciente<\/strong><\/p>\n\n\n\n Podr\u00eda dar la impresi\u00f3n de que abordar el uso de sistemas de IA a lo largo de la experiencia del paciente est\u00e1 estrechamente vinculado a prestaci\u00f3n de asistencia sanitaria y, por tanto, podr\u00eda entrar en el \u00e1mbito de competencia de los Estados miembros con arreglo al art\u00edculo 168 del Tratado de Funcionamiento de la UE (TFUE).<\/p>\n\n\n\n Por otro lado, el uso de sistemas de IA podr\u00eda ayudar a adoptar decisiones relevantes en materia de adherencia al tratamiento, cambios en las intervenciones o la dosificaci\u00f3n. Dado este impacto directo en el ciclo de vida de los medicamentos, sugerimos que la EMA siga explorando este \u00e1mbito y ofrezca recomendaciones sobre c\u00f3mo integrar estos datos en las decisiones posteriores a la autorizaci\u00f3n de un medicamento.<\/p>\n","protected":false},"excerpt":{"rendered":" La Agencia Europea del Medicamento (EMA) abri\u00f3 a consulta p\u00fablica un \u201cdocumento de reflexi\u00f3n\u201d sobre el uso de la inteligencia artificial (IA) en el desarrollo y regulaci\u00f3n de los medicamentos de uso humano y veterinarios. Estas han sido nuestras sugerencias al respecto: Consideraciones generales: transparencia Es fundamental, en materia de IA y machine learning (ML),… <\/p>\n