La clonació de veu basada en intel·ligència artificial ha avançat ràpidament i permet imitar la veu d’una persona amb només uns segons d’àudio, fins i tot sense el seu consentiment. Aquesta tecnologia utilitza models complexos que analitzen les característiques úniques de la veu i generen àudios sintètics que són gairebé indistingibles de la veu real, facilitant la creació de clons de veu en qüestió de segons.

Aquests avenços han fet que la clonació de veu sigui accessible a qualsevol persona, democratitzant-ne l’ús però també obrint la porta a nous riscos. Un dels perills més importants és l’ús d’aquestes veus sintètiques en atacs d’enginyeria social, com ara suplantacions d’identitat per estafar o manipular persones. Ja hi ha hagut casos reals, com trucades fraudulentes en nom de figures públiques que han influït processos electorals, i la detecció de veus falses encara és un repte tècnic important.

A més, la manca de mesures de seguretat i verificació a la majoria de serveis públics de clonació de veu facilita que es pugui clonar i utilitzar la veu d’algú sense permís. Les eines de detecció de deepfakes encara són poc fiables, fet que complica la lluita contra aquest tipus de frau.

En resum, la clonació de veu amb IA obre noves possibilitats tècniques i comercials, però també representa una amenaça creixent en el camp de l’enginyeria social, perquè facilita la suplantació d’identitat d’una manera ràpida i convincent, i actualment hi ha pocs mecanismes efectius per prevenir-ne l’ús fraudulent.