Il colosso tecnologico ha inoltre sviluppato strumenti di protezioni specifici per i minori, “progettati per fornire le risposte più utili ed evitare argomenti pericolosi quando utilizzano Gemini”, afferma la società. Ci sono le protezioni sulla “personalità” di Gemini, con regole che impediscono all’IA di presentarsi come un essere umano o un compagno fidato o di affermare di possedere attributi umani; protezioni per prevenire la dipendenza emotiva evitando un linguaggio che simuli intimità o esprima bisogni personali; misure di sicurezza contro l’incitamento al bullismo o ad altre forme di molestia.

“Sebbene Gemini possa essere uno strumento utile per imparare e ottenere informazioni, non sostituisce l’assistenza clinica professionale, la terapia o il supporto d’emergenza per chi ne ha bisogno – scrive Google in un post ufficiale – Per questo motivo, abbiamo addestrato il modello affinché riconosca quando una conversazione potrebbe segnalare una situazione critica di salute mentale, rispondendo in modo appropriato e indirizzando l’utente verso un aiuto concreto nel mondo reale. I nostri team clinici, di ingegneri e di sicurezza si stanno concentrando su dare priorità alla sicurezza e alle relazioni umane. Il nostro obiettivo è evitare di confermare convinzioni errate, mantenendo sempre una prospettiva ancorata alla realtà e ai fatti”, conclude la società.