Transparència en l'ús de la intel·ligència artificial: què han de revisar les empreses des del 2 d'agost del 2026

També és important distingir entre dues figures:

Proveïdor : qui desenvolupa un sistema d'IA, o encarrega el seu desenvolupament, i el comercialitza o posa en servei sota el seu propi nom o marca.

Responsable del desplegament : qui utilitza el sistema sota la seva autoritat i dins una activitat professional.

Una mateixa empresa pot exercir tots dos papers.

L' article 50.1 fa referència als sistemes d'IA que interactuen directament amb persones.

Es pot tractar, per exemple, de:

• chatbots datenció al client;

• assistents de veu;

• avatars;

• agents que reserven cites o fan compres;

• sistemes que negocien o envien comunicacions;

• assistents integrats en una web o aplicació.

En aquests casos, el sistema ha d'estar dissenyat perquè la persona sàpiga que està interactuant amb una IA.

La informació s'ha de facilitar de manera clara i distingible, com a màxim, en la primera interacció. No n'hi ha prou amb amagar-la únicament en les condicions d'ús, en una política de privadesa o en un enllaç secundari.

Una empresa anomenada Costa Digital, SL incorpora a la seva pàgina web un chatbot que respon consultes de clients. El chatbot utilitza un nom i una imatge que poden fer pensar que és una persona.

En aquest cas, la interfície hauria d'informar clarament des del començament que la conversa es manté amb un sistema d'IA.

L'excepció existeix quan la naturalesa artificial de la interacció és realment evident per a una persona raonablement informada, observadora i prudent. Això no obstant, les orientacions de la Comissió Europea assenyalen que aquesta excepció s'ha d'interpretar de manera restrictiva.

L' article 50.2 s'aplica als proveïdors de sistemes capaços de generar o manipular contingut sintètic en forma de:

1. àudio;

2. imatge;

3. vídeo;

4. text.

Aquests proveïdors han d'incorporar solucions tècniques que permetin marcar el contingut en un format llegible per màquina i fer-ho detectable com a generat o manipulat artificialment. Això pot incloure, segons el sistema i la tecnologia utilitzada, marques tècniques, metadades, empremtes digitals, mètodes de procedència o altres solucions tècniques.

Una etiqueta visible com a contingut generat amb IA pot ser útil, però no substitueix per si sola el marcatge tècnic i la detecció exigits al proveïdor.

Una agència utilitza IA per corregir una manca dortografia i ajustar lleugerament el color duna fotografia. En principi, aquest ús es podria considerar una edició menor.

La situació canvia si utilitza la IA per fer que una persona sembli haver pronunciat unes paraules que mai no va dir o per inserir un producte en una escena inexistent. En aquest cas, ja no estaríem davant d'un simple retoc tècnic.

L' article 50.3 imposa obligacions als que despleguen sistemes de reconeixement d'emocions o categorització biomètrica. Les persones exposades han de saber que el sistema funciona. L'obligació es pot aplicar tant si el sistema opera en temps real com si posteriorment analitza les dades. 

Una botiga instal·la un sistema que analitza imatges de les persones que hi entren per classificar-les per grups d'edat.

Abans de l'exposició al sistema, cal facilitar informació clara i visible, per exemple mitjançant un avís col·locat als accessos.

Aquest avís no converteix automàticament lús en lícit. A més de la transparència, poden ser aplicables les normes de protecció de dades, les prohibicions del propi Reglament Europeu d'IA i altres normes sobre discriminació o drets fonamentals.

 L' article 50.4 estableix obligacions específiques per als que utilitzen professionalment sistemes d'IA generativa.

L'excepció exigeix, de manera acumulativa:

1. una revisió humana o editorial real i substantiva;

2. que una persona física o jurídica assumeixi la responsabilitat editorial de la publicació.

Un organisme publica a les xarxes socials un avís meteorològic generat automàticament per IA per alertar sobre una tempesta. Si no hi ha una revisió humana substantiva abans de publicar-lo, caldrà analitzar l'obligació d'informar-ne l'origen artificial.

Si el contingut ha estat revisat per una persona amb coneixements adequats, s'han comprovat les dades i hi ha responsabilitat editorial clara, podria entrar a l'excepció prevista per la norma.

Quan ha d'aparèixer l'avís?

L' article 50.5 exigeix ​​que la informació es faciliti de manera clara, distingible i accessible, com a màxim, en el moment de la primera interacció o exposició.

Això vol dir que l'avís no hauria d'aparèixer únicament:

• en un document difícil de localitzar;

• dins de les condicions generals;

• després que la persona ja hagi interactuat amb el sistema;

• ocult en diversos menús;

• mitjançant una indicació ambigua com a assistent virtual.

La manera concreta d'informar dependrà del canal i del públic: text, avís visual, missatge de veu, icona o altres sistemes combinats.

El règim transitori: una pròrroga molt concreta

La data general daplicació de l'article 50 és el 2 dagost de 2026.

La reforma del 2026 introdueix una excepció temporal limitada. Els proveïdors de sistemes d'IA, inclosos els sistemes d'ús general, que generin àudio, imatge, vídeo o text sintètic i que s'hagin introduït al mercat abans del 2 d'agost de 2026 disposen fins al 2 de desembre de 2026 per complir les obligacions de marcatge i detecció de l'article 50.2.

No és una pròrroga general per a totes les obligacions de transparència.

Per tant:

• la informació sobre la interacció directa amb IA no s'ajorna de manera general;

• les obligacions sobre biometria no s'ajornen per aquesta regla;

• les obligacions sobre deepfakes i determinats textos tampoc no queden automàticament ajornades;

• la pròrroga es refereix específicament al marcatge i detecció tècnica de l'article 50.2 en determinats sistemes ja introduïts al mercat.

A més, els continguts generats i publicats abans del 2 d'agost del 2026 no s'han d'etiquetar retroactivament. La situació pot ser diferent si un contingut antic es publica per primer cop després d'aquesta data.

Què pot passar si no es compleix?

El compliment el pot supervisar les autoritats nacionals de vigilància del mercat, l'Oficina Europea d'Intel·ligència Artificial en els casos que siguin de la seva competència i el Supervisor Europeu de Protecció de Dades respecte de les institucions de la Unió.

Les autoritats poden actuar dofici o arran duna reclamació.

L'incompliment de les obligacions de transparència de l'article 50 pot donar lloc a multes de fins a:

• 15 milions d'euros;

• o el 3% del volum de negocis mundial total de l'exercici anterior,

aplicant-se limport que resulti superior. Per a les petites i mitjanes empreses, incloses les empreses emergents, es preveu el límit inferior corresponent.

Aquestes xifres són límits màxims i no impliquen que tota infracció rebi automàticament aquesta sanció. L'autoritat ha de valorar les circumstàncies concretes, la gravetat, la durada, les conseqüències, la cooperació i altres factors rellevants.

A més, poden ser aplicables altres normes sobre protecció de dades, consum, propietat intel·lectual, drets d'imatge, publicitat o responsabilitat civil.

 Com a primera aproximació, una empresa s'hauria de preguntar:

1. Quines eines utilitza realment?

2. Actua com a proveïdor, responsable del desplegament o ambdues coses?

3. La IA interactua directament amb persones?

4. Genera contingut nou o només en fa una edició menor?

5. Qui veurà, escoltarà o rebrà el resultat?

6. Quin avís correspon i en quin moment ha d'aparèixer?

7. L'empresa pot demostrar com ha configurat i revisat el sistema?