Durant el 2025, grans empreses tecnològiques com Microsoft i Google han informat que una part important del seu codi ja és generat per la intel·ligència artificial (IA). L’objectiu a llarg termini dels investigadors és crear agents de programació capaços de millorar-se a si mateixos de manera autònoma mitjançant processos recurrents, una fita coneguda com a “millora recursiva”.

Un nou estudi presenta els anomenats Darwin Gödel Machines (DGMs), un sistema que combina models de llenguatge grans (LLM) –com els que impulsen ChatGPT– amb algoritmes evolutius. Els DGMs funcionen així: parteixen d’un agent de programació capaç de llegir, escriure i executar codi, i generen múltiples versions noves aplicant petites modificacions suggerides pel LLM. A diferència d’altres mètodes, no eliminen les versions que inicialment tenen pitjors resultats, ja que aquestes poden portar a innovacions inesperades si es continuen modificant.

En les proves realitzades, els DGMs van aconseguir millorar substancialment la seva capacitat de programació, passant d’un 20% a un 50% d’èxit en un repte estàndard, tot i que encara no arriben al nivell dels millors humans. El valor d’aquest enfocament és que la millora es produeix de manera automàtica i acumulativa: els agents no només aprenen a programar millor, sinó que aprenen a millorar-se en la seva pròpia millora.

Aquesta recerca posa de manifest tant el potencial com els riscos. Els sistemes autoevolutius poden esdevenir difícils d’interpretar o d’alinear amb objectius humans. Per això, els investigadors han implementat controls: els DGMs operen en entorns tancats, es registren totes les modificacions i es poden recompensar comportaments alineats i transparents.

Tot i que la IA encara no substitueix completament els programadors humans, aquestes eines podrien revolucionar l’automatització de la programació, superant fins i tot l’experiència humana en algunes tasques. Tanmateix, la seguretat i l’ètica continuen sent grans reptes en el desenvolupament d’aquestes tecnologies.