Diversos casos recents als tribunals dels EUA han evidenciat com la intel·ligència artificial pot generar errors i com les persones poden no detectar-los a temps. Advocats, fins i tot de firmes prestigioses, han presentat escrits amb cites de casos inexistents generades per IA generativa, i problemes similars s’han estès a altres rols del sistema judicial. Aquestes errades il·lustren dos riscos combinats: la “confabulació” de les eines d’IA (inventar informació amb aparença de veracitat) i la tendència humana a confiar-hi massa sense verificar.

Conseqüències clau:
- Documents legals defectuosos amb jurisprudència falsa poden enganyar jutges i parts, alentir procediments i minar la confiança en el sistema.
- El risc no es limita als advocats: assistents judicials, procuradories i altres actors que incorporen IA en fluxos de treball també poden propagar errors si no hi ha controls humans rigorosos.
- La càrrega de verificació recau en els professionals: cal comprovar manualment cites, fets i referències; documentar l’ús d’IA; i mantenir cadenes de custòdia clares de la informació.

Bones pràctiques i mesures emergents:
- Verificació obligatòria de cites i fonts primàries abans de presentar cap document.
- Política d’“humà al comandament”: l’IA pot ajudar en esborranys o recerques preliminars, però les conclusions i cites s’han de validar per persones expertes.
- Transparència sobre l’ús d’IA en documents judicials i protocols interns per detectar confabulacions (ex. comprovadors de cites, cerques a bases de dades jurídiques autoritzades).
- Formació específica en riscos, biaixos i limitacions de l’IA generativa per a tots els operadors jurídics.

Missatge de fons: l’IA pot ser útil com a eina d’assistència, però en àmbits d’alt risc com la justícia només és segura si s’integra amb controls humans estrictes, verificació de fonts i responsabilitat professional clara.