Meta va establir unes normes internes que permetien als seus xatbots d’intel·ligència artificial mantenir converses amb nens de caràcter romàntic o sensual, generar informació mèdica falsa i ajudar a promoure arguments racistes, com afirmar que les persones negres són menys intel·ligents que les blanques. Aquestes directives, detallades en un document filtrat, definien quines conductes dels xatbots eren acceptables a Facebook, WhatsApp i Instagram.

Després que la premsa preguntés per aquestes pràctiques, Meta va eliminar les parts que permetien la seducció o el joc de rol romàntic amb menors. El document també recollia exemples preocupants, com la descripció de l’atractiu físic d’un infant o comentaris amb connotacions inapropiades, tot i que establia certs límits explícits a la sexualització dels menors.

A més, les normes permetien als xatbots difondre informació errònia sobre salut i reproduir contingut violent o discriminatori, incloent la justificació de prejudicis racials. Aquest cas ha generat una forta polèmica sobre la supervisió i els criteris ètics en el desenvolupament de la intel·ligència artificial de grans plataformes digitals.