El OEIAC crea un modelo para favorecer el cumplimiento de la primera ley de IA de la UE

La AI Act, la primera ley de inteligencia artificial de la Unión Europea, publicada en el Diario Oficial de la Unión Europea el pasado 12 de julio, entrará en vigor el jueves 1 de agosto.
Ante la complejidad de aplicación de la nueva ley AI Act, el Observatorio de Ética en Inteligencia Artificial de Cataluña (OEIAC) ha desarrollado el nuevo Modelo PIO (Principios, Indicadores y Observables), una herramienta que favorece el cumplimiento de la normativa sobre inteligencia artificial y la regulación actual sobre riesgos y derechos asociados a la IA a través de un proceso de verificación exhaustivo.

El Modelo PIO permite identificar acciones adecuadas o inadecuadas y sensibilizar a través de los usos éticos de los datos y sistemas de IA.
Este proyecto está alineado con la creciente adopción de estándares internacionales y sitúa las consideraciones éticas como una pieza clave de las soluciones técnicas.

Esta nueva versión sustituye a una beta anterior que proporcionaba recomendaciones de acuerdo con 7 principios éticos fundamentales (transparencia, justicia, responsabilidad, seguridad, privacidad, autonomía y sostenibilidad).
La nueva herramienta de evaluación se fundamenta en el anterior modelo, pero cuenta con la ventaja de que está armonizada con los requisitos legislativos de la AI Act y de otras legislaciones sobre datos y derechos.
Además, contiene recursos como catálogos, ejemplos y nuevas funcionalidades que permiten avanzar hacia una IA responsable.

La Ley de Inteligencia Artificial de la Unión Europea (AI Act)

La primera Ley de Inteligencia Artificial de la Unión Europea conocida como AI Act representa una legislación pionera en la regulación de la inteligencia artificial.
Esta ley permite, generalmente, regular el acceso al mercado y de productos, especialmente para tecnologías de IA consideradas con un mayor riesgo, como la tecnología de IA aplicada en el ámbito de la salud.
Sin embargo, también define los principios generales de conducta o comportamiento para utilizar la IA, así como el derecho a la información a las personas afectadas para esta tecnología.

La AI Act contrasta con el Reglamento General de Protección de Datos (GDPR), que regula el tratamiento de datos personales y los derechos de los sujetos de datos.
En cambio, la AI Act regula las medidas de acompañamiento que se deben implementar en caso de que las tecnologías de IA se consideren de riesgo.

A partir de ahí establece cuatro categorías de riesgo.
En primer lugar, aquellos que hacen referencia a un conjunto limitado de usos de la IA que acaban siendo prohibidos debido a su impacto nocivo.
En segundo lugar, hay un número limitado de casos de uso en los que los sistemas de IA deben considerarse de alto riesgo porque pueden tener un impacto adverso en la salud, la seguridad o sus derechos fundamentales de las personas.

En tercer lugar, hay una serie de sistemas de IA que presentan riesgos limitados debido a su falta de transparencia, como las falsificaciones o el contenido sintético, y que estarán sujetos a requisitos de información y transparencia con el fin de fomentar la confianza.
Finalmente, se permite el uso de sistemas que presentan un riesgo mínimo para las personas, como filtros de correo basura asistidos por una IA, y que cumplan con la legislación aplicable sin obligaciones legales adicionales.

Al margen de estas categorías de riesgo, la AI Act ofrece normas específicas para los modelos de IA de propósito general (GPAI) y para sus modelos con capacidades de alto impacto que podrían suponer un riesgo sistémico y tener un impacto significativo en el mercado interior.

Sobre el OEIAC

La OEIAC, que toma forma de Cátedra en la Universidad de Girona (UdG), tiene como objetivo principal estudiar las consecuencias éticas, sociales y legales y los riesgos y oportunidades de la implantación de la IA desde una óptica plenamente transversal. Las acciones de la OEIAC se insertan en la Estrategia de Inteligencia Artificial impulsada por la Generalidad de Cataluña con el nombre de Catalonia.AI, para promover los usos éticos de la IA, respetando la legalidad vigente, y haciendo que sea compatible con las normas sociales y culturales.