Acuerdo político en el reglamento de IA: un mapa de navegación

36 horas. Ese es el tiempo que estuvieron reunidos, a lo largo de tres intensos días, los representantes de las instituciones de la Unión Europea (UE) antes de conseguir alcanzar un acuerdo político sobre el futuro reglamento de Inteligencia Artificial (IA). Si bien se trata de una norma horizontal y no sectorial, algunos de los acuerdos a los que se llegó durante esas 36 horas están llamados a reconfigurar el uso de IA en materia de sanidad.

La negociación fue tan intensa que se discutió incluso la propia definición de sistema de IA: una definición demasiado rigurosa implica correr el riesgo de que los próximos avances superen dicha definición y quede, por ende, fuera del ámbito de aplicación. En el otro extremo, una definición demasiado amplia podría hacer que determinadas operaciones en una hoja de cálculo se considerasen IA, lo que parece desproporcionado.

Ahora bien, el Consejo subrayó en su nota de prensa que el reglamento no aplicará a los sistemas de IA utilizados exclusivamente con fines de investigación. Ello estimulará la creación de un ecosistema donde la exploración en materia de IA puede darse con mayor flexibilidad.

Ahora bien, en el momento en el que se transite hacia un uso comercial, el sistema deberá cumplir con el reglamento.

Vinculado a lo anterior está el impulso al uso de bancos de pruebas regulatorios o sandboxes, de los que hablamos en esta misma tribuna el pasado 8 de septiembre. En España, dicho sandbox se estableció mediante Real Decreto 817/2023, de 8 de noviembre.

Resulta de singular relevancia que, como mínimo, los productos sanitarios serán considerados como sistemas de alto riesgo. Entre otras obligaciones, deberán cumplir con determinados estándares de calidad, realizar una evaluación de impacto sobre los derechos fundamentales y los ciudadanos tendrán derecho a recibir aclaraciones sobre las decisiones basadas en estos sistemas que afecten a sus derechos. Está por ver si la certificación en materia de productos sanitarios y la de IA van a poder tramitarse conjuntamente.

Por lo demás, se prohibirán los sistemas de categorización biométrica que utilicen características sensibles (por ejemplo, creencias políticas, religiosas, filosóficas, orientación sexual, raza). Sin embargo, se prevén excepciones para el uso de sistemas de identificación biométrica (RBI) en espacios de acceso público con fines policiales.

La tramitación del reglamento de IA se ha descrito como una maratón a la que aún le quedan unos meses de trabajo técnico hasta tener un texto final que pueda ser aprobado.

Entonces comenzará un periodo transitorio hasta que sea plenamente aplicable. Son varias las voces, sobre todo fuera de la UE, que se alzan ante lo que consideran una regulación que podría limitar el progreso de la IA. Sin embargo, y tal vez por deformación profesional de quien escribe estas líneas, estimular la confianza en los sistemas y disponer de normas claras deben ser objetivos innegociables. Sí resultará necesario un mapa de navegación para abordar la implementación con garantías a fin de no dejar pasar esta oportunidad histórica.