La idea central és que no n’hi ha prou amb crear eines d’IA més potents; cal fer-se preguntes més exigents sobre cap a on ens condueixen i amb quins efectes socials, democràtics i psicològics. Això implica passar de l’obsessió pel “què pot fer la tecnologia” al “per què, per a qui i amb quines regles”.

- Riscos clau: la manipulació psicològica i la desinformació amplificades per models generatius i bots poden influir en decisions polítiques i quotidianes, afectar la salut mental i erosionar la confiança pública, fins i tot en processos electorals.
- Poder i desigualtat: la capacitat d’infraestructura i d’inversió en IA es concentra en poques empreses i països, cosa que pot ampliar bretxes econòmiques i d’ocupació si no s’aborden amb polítiques inclusives i formació de la mà d’obra.
- Governança i responsabilitat: les institucions públiques han de liderar amb normes clares, transparència i control algorítmic, incorporant perfils tecnolegals i formació específica per garantir una implementació justa.
- Què fer ara: desenvolupar marcs regulatoris amb enfocament en drets humans i sostenibilitat; educar ciutadania i organitzacions per entendre i gestionar l’IA; invertir per reduir la bretxa digital i donar cabuda a llengües i cultures diverses; i establir sistemes contra la desinformació, fomentant el debat públic informat.
- Evidència de mitigació: intervencions tipus “vacuna informativa” (jocs i eines per reconèixer notícies falses) poden reduir la susceptibilitat a la manipulació, mostrant que l’educació crítica és una peça clau.

En síntesi, el repte no és només tècnic sinó de direcció i govern: cal decidir col·lectivament quins fins serveix l’IA i amb quines garanties perquè el seu progrés no desplaci drets, igualtat ni democràcia.