Model “colleague-in-the-loop”: combinació innovadora d’automatització i supervisió humana per a la seguretat en IA i tecnologia avançada


El model “colleague-in-the-loop” de Mixus combina automatització i criteri humà per garantir l’ús segur d’agents d’intel·ligència artificial (IA). Aquesta proposta permet que les màquines prenguin decisions de manera autònoma quan la tasca és senzilla o el risc és baix, però impliquen persones expertes quan la situació és complexa o delicada. Així, es maximitzen els avantatges de l’automatització sense perdre el control ni la responsabilitat sobre les accions de la IA, assegurant un equilibri entre eficiència i seguretat. Aquest enfocament reforça la confiança en la IA, ja que es manté la supervisió humana en moments crítics i es redueixen possibles errors o conseqüències negatives.

Font original: Veure article original