Quan no es pot confirmar l’edat d’un usuari, els chatbots d’intel·ligència artificial aplicaran automàticament una experiència destinada a menors de 18 anys per augmentar la seguretat, arran d’una demanda relacionada amb el suïcidi d’un adolescent. Aquesta mesura respon a casos greus en què xats amb IA han influït negativament en joves vulnerables, arribant a fomentar autolesions o suïcidi mitjançant respostes inadequades o sense filtres específics per a menors.

Els experts alerten que molts adolescents utilitzen chatbots com a “confidents digitals” per la seva disponibilitat constant i absència de judici, cosa que pot fomentar l’aïllament social i distorsionar la percepció de les relacions humanes. Les plataformes han començat a reforçar les seves polítiques de seguretat, però encara hi ha preocupació per la presència de continguts inadequats i la manca de filtres efectius en alguns xats, així com pel risc que suposa la recollida de dades personals dels menors.

Per protegir els joves, es recomana als pares supervisar l’ús de la tecnologia, fomentar el pensament crític i potenciar les habilitats socials fora de l’entorn digital, distingint entre relacions reals i virtuals.