Un modelo catalán y pionero para una IA ética en Europa

La inteligencia artificial (IA) se convierte en una herramienta extremadamente útil en numerosos ámbitos de la sociedad. Proporciona ventajas y oportunidades en materias como la movilidad, el medio ambiente o la salud, pero también comporta riesgos y posibles amenazas para la salud, seguridad y derechos fundamentales. Ante esto, la Unión Europea ha considerado oportuno regular los sistemas de IA, a fin de garantizar la seguridad de los productos y servicios de IA o que la incorporen. Así, el Reglamento europeo de inteligencia artificial (RIA), que entró en vigor el 2 de agosto de 2024, aunque no regula derechos sí establece garantías para los derechos y libertades fundamentales de las personas que viven en la Unión Europea. Este es un aspecto que toma especial relevancia en el contexto mundial actual, donde potencias como China o EEUU impulsan e invierten en el desarrollo de la IA, y aparentemente lo hacen sin priorizar los derechos de las personas frente a otros intereses, como el económico.

Entre estas garantías que introduce el RIA podemos encontrar la atribución de competencias a las autoridades de protección de datos, como la Autoritat Catalana de Protecció de Dades (APDCAT), a la que también se le ha atribuido la función de autoridad de protección de los derechos fundamentales.

Ante esto, la APDCAT ya ha iniciado diversas actuaciones para prevenir la vulneración de los derechos de las personas. Vulneraciones en derechos como la salud, la no discriminación, la protección de datos o la libertad de expresión, que pueden verse muy afectados por el uso intensivo y acrítico de los sistemas de inteligencia artificial (SIA) por parte de las organizaciones y de las propias personas en su día a día, deslumbradas por las posibilidades que ofrecen. Una de las primeras cuestiones a abordar es la obligación de formar a las personas (obligación ya exigible desde el 2 de febrero de 2025) y dotarlas de competencias y capacidades para afrontar los nuevos retos que comporta la IA. Formación y consolidación de capacidades que no se realiza en un día, sino que requiere una integración consciente y continua en el desarrollo de las actividades.

Pero también nos hemos centrado en las organizaciones que deben utilizar los SIA, así como en una de las obligaciones que establece el RIA. En concreto, el artículo 27 de este reglamento obliga a las organizaciones, responsables del despliegue, a evaluar el impacto que los SIA utilizados pueden tener en los derechos fundamentales. Por tanto, deben identificar los riesgos para cada derecho afectado, determinar las medidas más adecuadas para mitigarlo o eliminarlo, y finalmente aplicarlas.

El modelo FRIA catalán

Para ayudar a las entidades en el cumplimiento de esta obligación, la APDCAT ha desarrollado el modelo FRIA catalán, una metodología destinada a ayudar a los responsables del despliegue y proveedores de SIA, en particular a los sistemas de alto riesgo, a identificar y mitigar estos riesgos que pueden afectar a los derechos fundamentales de las personas. El modelo FRIA no solo facilita el cumplimiento de las obligaciones legales en relación con los SIA de alto riesgo, sino que también proporciona un marco para el conjunto de los sistemas, para analizar los impactos que pueden tener en los derechos según el contexto en el que se despliega ese sistema. Es importante tener presente que un mismo SIA, utilizado en contextos diferentes, puede acarrear riesgos muy diversos. Por ejemplo, un sistema para orientar a los alumnos no tendrá el mismo impacto en el ámbito universitario que en el ámbito de educación primaria, ya que los colectivos afectados son distintos.

No solo se ha desarrollado un modelo para evaluar los riesgos, sino que también lo hemos probado en cuatro casos reales, para comprobar su funcionalidad y utilidad. Y toda esta documentación se ha publicado para que las organizaciones puedan utilizarlas. La APDCAT sigue trabajando para mejorarlo y adaptarlo a diversos contextos y necesidades, ya que está concebido como una herramienta dinámica y capaz de evolucionar al ritmo que lo hacen los SIA.

Evitar sesgos

Uno de los riesgos más preocupantes asociados a la IA es la generación de sesgos, que pueden surgir a causa de un inadecuado entrenamiento del modelo, la elección de un conjunto no representativo de datos o una mala interpretación de los resultados. Los sesgos pueden conducir a situaciones de discriminación y afectar, especialmente, a los colectivos más vulnerables de la sociedad.

El modelo FRIA ayuda a identificar los datos que se utilizan y cómo pueden impactar en distintos grupos sociales. Esto facilita la detección de posibles situaciones de discriminación, tanto las más evidentes como las más sutiles, que podrían pasar desapercibidas. El derecho a la no discriminación es un principio fundamental en el ámbito de los derechos humanos, y garantizarlo es esencial para construir una IA justa y ética.

Adaptabilidad

Este modelo se puede aplicar en diversos ámbitos, para identificar los riesgos asociados a la IA y garantizar una implementación responsable. Es una herramienta para diseñar y utilizar los SIA. En los casos de uso publicados existen varios ejemplos. Así, en el ámbito laboral, puede ayudar a detectar si un sistema de selección automática de candidatos favorece o perjudica a determinados perfiles profesionales. En la sanidad, permite analizar si los algoritmos de diagnóstico influyen de forma desigual en función del género, la edad u otros factores.

La metodología no sirve únicamente para evaluar los riesgos, sino también como soporte en la toma de decisiones. Las organizaciones pueden utilizar el modelo FRIA catalán para gestionar los riesgos asociados a sus sistemas de IA y asegurarse de que cumplen los principios éticos y legales.

El avance de la inteligencia artificial aporta beneficios evidentes pero también plantea retos significativos. Por este motivo, la regulación y la implementación de metodologías como el modelo FRIA son esenciales para garantizar que se desarrolla de forma responsable y respetuosa con los derechos fundamentales. Mediante un enfoque ético y transparente, podremos aprovechar todo el potencial de esta tecnología sin comprometer los valores fundamentales de nuestra sociedad.