A partir d'aquest diumenge, entren en vigor a tota la Unió Europea les noves exigències de transparència contemplades en el reglament sobre intel·ligència artificial (IA). La Comissió Europea imposa que tant els proveïdors de tecnologies basades en IA com les entitats que les implementin hagin d'informar clarament els usuaris quan interactuen amb un sistema d'IA o quan un contingut ha estat creat o modificat mitjançant aquesta tecnologia.
Marc normatiu i desplegament progressiu
El reglament europeu, aprovat l'any 2023, és pioner a nivell mundial i té com a objectiu establir un marc regulador adaptat al grau de risc associat a l'ús dels sistemes d'intel·ligència artificial. Des del febrer de 2025, ja estan prohibits certs usos com l'extracció massiva d'imatges facials o el reconeixement emocional en àmbits laborals. A més, des de l'agost passat, plataformes generatives d'IA com ChatGPT han de garantir el respecte als drets d'autor.
Noves obligacions per als proveïdors i responsables
Aquesta nova fase obliga especialment els proveïdors —com ara OpenAI, amb ChatGPT; Anthropic, amb Claude; i Google, amb Gemini— a dissenyar sistemes que informin explícitament l'usuari quan estigui interactuant directament amb una IA. També s'inclouen generadors visuals com Midjourney, eines de síntesi vocal i altres aplicacions destinades a crear continguts mitjançant IA.
A més, aquests proveïdors hauran d'incorporar marques digitals llegibles per màquina que permetin identificar automàticament si un contingut ha estat generat o alterat per intel·ligència artificial.
D'altra banda, empreses, administracions i organitzacions que utilitzin sistemes IA hauran d’informar els seus usuaris quan emprin tecnologies de reconeixement emocional o biomètric, quan difonguin materials 'deep fake' o publiquin textos generats per IA sobre temàtiques públiques sense supervisió humana ni control editorial.
Límit dels usos personals i responsabilitats en xarxes socials
Segons les directrius publicades per la Comissió Europea el passat 20 de juliol, aquestes normes no afectaran els usos estrictament personals. Fonts comunitàries indiquen que aplicacions com WhatsApp no requeriran avisos específics quan s'enviïn continguts generats per IA si es tracta d’un ús personal. En canvi, sí que s'exigeix complir-les si hi ha finalitat professional o comercial vinculada a beneficis econòmics.
Pel que fa a les xarxes socials, la responsabilitat recau sobre qui crea i publica aquest tipus de continguts generats per IA —per exemple a plataformes com Instagram o Facebook— més que no pas sobre aquestes últimes. Tot i això, diverses companyies ja etiqueten voluntàriament aquests materials.
Directrius europees per facilitar l'aplicació
L’executiu comunitari va publicar unes guies detallades que defineixen conceptes clau com els sistemes interactius, continguts sintètics i 'deep fakes', així com excepcions rellevants —per exemple correccions ortogràfiques o gramaticals— per facilitar una aplicació coherent del reglament.
Henna Virkkunen, vicepresidenta de la Comissió Europea encarregada de Sobirania Tecnològica, va declarar: "Les directrius han de garantir una aplicació fluida i eficaç del reglament perquè els sistemes d'intel·ligència artificial siguin més transparents i fiables". També va afegir: "Les noves normes han de permetre que els ciutadans sàpiguen quan estan interactuant amb una IA".
Mecanismes de vigilància i sancions previstes
L’estricte compliment serà supervisat tant per autoritats nacionals competents en vigilància del mercat com per l’Oficina Europea d’Intel·ligència Artificial. En el cas dels organismes europeus mateixos intervenen també el Supervisor Europeu de Protecció de Dades.
Totes les infraccions podrien comportar multes elevades: fins a 15 milions d’euros o bé un 3% del volum global anual facturat per l’empresa implicada segons estableix la normativa vigent.
Noves prohibicions relacionades amb contingut sexualment explícit i pornografia infantil
Aquesta legislació també prohibeix expressament la comercialització dins la UE dels sistemes d’IA orientats a generar material "sexualment explícit o íntimament explícit" sense consentiment ni imatges relacionades amb abús sexual infantil. Aquesta mesura entrarà en vigor el pròxim 2 de desembre donant temps perquè les empreses adapten els seus productes abans aquesta data límit.
Aquesta restricció afecta tant la venda directa dels sistemes dissenyats específicament per crear aquest tipus de contingut (que pot incloure imatges fixes, vídeos o àudio), com també aquells venuts sense mesures suficients contra la creació no autoritzada. Així mateix impedeix fer servir aquests mecanismes amb finalitats il·lícites relacionades amb aquest tipus material.
L’impuls finalitzat cap aquest canvi normatiu va sorgir arran de la polèmica suscitada entre finals del desembre passat i principis del gener actual després que milers d’imatges sexualitzades manipulades mitjançant IA —conegudes popularment com 'deep fake'— es viralitzessin massivament en la plataforma social X.
Afegir La Ciutat com a font preferida de Google de forma gratuïta
Estigues informat amb les últimes notícies d'actualitat