OpenAI i Anthropic són dues empreses capdavanteres en intel·ligència artificial que han analitzat els models d’IA de l’altra i han observat que, tot i que els models amb millor capacitat de raonament poden estar més alineats amb criteris de seguretat, encara presenten riscos importants. OpenAI prioritza el desenvolupament i desplegament d’una IA general (AGI), mentre que Anthropic posa l’èmfasi a crear sistemes d’IA segurs i fiables des del principi, utilitzant mètodes com la IA Constitucional per incorporar la seguretat en el nucli dels models.

Tot i els avenços, cap dels enfocaments garanteix una eliminació total dels riscos associats a l’ús de models d’IA avançats. Això posa de manifest la necessitat de seguir investigant i millorant les estratègies d’alineament i seguretat, ja que aquests sistemes poden tenir impactes socials i ètics rellevants.

En resum, l’evolució de la IA d’OpenAI i Anthropic mostra que, malgrat una millor alineació amb la seguretat, la gestió dels riscos continua sent un repte central i prioritari per a tota la indústria.