La Unió Europea ha aprovat una normativa pionera, l’**AI Act**, que estableix el primer marc legal integral per a la **intel·ligència artificial (IA)** a nivell mundial. Aquesta llei obliga les grans empreses tecnològiques a **fer públic el seguiment de quan i com els seus models d’IA fallen o presenten comportaments imprevistos**.

Els sistemes d’IA es classifiquen segons el **nivell de risc** que comporten per als usuaris. Les obligacions de compliment són més estrictes a mesura que augmenta el risc: els models d’ús general amb gran capacitat computacional o designats com de **risc sistèmic** han de complir requisits addicionals, com ara **avaluacions estandarditzades, mitigació de riscos, seguiment i notificació d’incidents, i mesures de ciberseguretat**.

Els proveïdors d’aquests models han de garantir la **transparència**, documentar tècnicament el funcionament dels sistemes, col·laborar amb les autoritats i respectar les lleis de propietat intel·lectual. L’objectiu central és assegurar que la IA sigui **segura, fiable, transparent i respectuosa amb els drets fonamentals**.

A més, la normativa fomenta la innovació i vol mantenir la supervisió humana sobre els sistemes d’IA per evitar resultats perjudicials. La Comissió Europea també ha posat en marxa iniciatives voluntàries per facilitar l’adaptació de les empreses als nous requeriments.