La Generalitat utiliza aplicaciones con IA que podrían vulnerar derechos de los usuarios

Según una información adelantada por RAC1, la Generalitat utiliza un total de 17 aplicaciones con inteligencia artificial (IA) que podrían atentar contra los derechos fundamentales de los ciudadanos. El Instituto de Derechos Humanos ha alertado de que, en al menos siete de estas herramientas, el riesgo para las libertades de la ciudadanía es especialmente elevado.

El informe del Instituto de Derechos Humanos indica que, entre estas aplicaciones, hay quienes tienen una incidencia directa sobre la justicia y los servicios sociales. Un ejemplo es una aplicación que calcula el riesgo de reincidencia de un recluso, u otra que determina las ayudas sociales que una persona podría recibir después de una entrevista con un trabajador social.

A pesar de reconocer la utilidad de ciertas herramientas tecnológicas, el Instituto de Derechos Humanos expresa preocupación por la delegación de decisiones tan importantes en máquinas. Según el informe, de las 36 aplicaciones con IA que utiliza la Generalitat, más de la mitad tienen un impacto sobre los derechos humanos, tal y como informa el medio anteriormente mencionado.

El verano pasado, la Unión Europea aprobó una legislación para regular el uso de la inteligencia artificial. Esta norma obliga a las empresas a revisar si sus aplicaciones infringen derechos humanos y, en su caso, modificarlas. Las empresas tienen hasta el verano de 2027 para adaptarse a esta normativa, lo que afectará a algunas de las aplicaciones de la Generalitat.