Arcee AI està desenvolupant models de llenguatge petits (SLM) pensats per a empreses que necessiten solucions d’intel·ligència artificial segures i eficients, especialment en sectors regulats com el legal, la salut, les assegurances i els serveis financers. La seva plataforma permet a les organitzacions entrenar models especialitzats amb les seves pròpies dades, dins d’un entorn privat al núvol, prioritzant així la seguretat i la privacitat.

A diferència dels models massius com GPT-4, els models d’Arcee —amb una mida d’uns 7.000 milions de paràmetres— són més ràpids de desplegar, fàcils de personalitzar i poden funcionar en maquinari menys potent, cosa que redueix costos i facilita la seva adopció. Aquesta eficiència fa que siguin útils en aplicacions tan diverses com l’assistència fiscal o la resposta a consultes mèdiques.

Arcee aposta per infraestructures més sostenibles, utilitzant processadors Arm en lloc de GPUs, tant al núvol com en servidors locals, per aconseguir més rendiment a menor cost i escalar processos a gran escala. Per a l’entrenament de models amb grans volums de dades, la companyia s’ha aliat amb Intel i utilitza els acceleradors Gaudi2, una tecnologia dissenyada per potenciar el rendiment en tasques de deep learning i optimitzar la gestió de la memòria durant l’entrenament de models avançats, com Llama 3.0 i Qwen2, amb milers de milions de paràmetres.

En definitiva, Arcee AI ofereix models de llenguatge especialitzats, segurs i fàcilment adaptables a les necessitats de les empreses, amb una clara aposta per l’eficiència i la privacitat de les dades.