Una ragazza americana di 13 anni avrebbe utilizzato per mesi l’intelligenza artificiale di Google per discutere dei propri problemi psicologici, arrivando a pianificare il suicidio e persino il funerale. La vicenda, avvenuta in Carolina del Nord, è ora al centro di una causa giudiziaria avviata dai genitori della minorenne contro il colosso tecnologico, accusato di non aver garantito adeguate protezioni nell’utilizzo dei propri strumenti di intelligenza artificiale.

La denuncia, depositata il 2 novembre 2026 in California, riguarda l’assistente Gemini e le funzionalità di intelligenza artificiale integrate nel motore di ricerca Google, accessibili attraverso un Chromebook fornito alla studentessa dalla scuola.

Secondo quanto ricostruito dagli avvocati della famiglia, l’istituto scolastico aveva impedito l’accesso diretto a Gemini e ChatGPT, ma non era riuscito a disabilitare gli strumenti di intelligenza artificiale presenti nella ricerca Google. Proprio attraverso queste funzionalità la ragazza, identificata con il nome di Emma, avrebbe sviluppato un rapporto sempre più intenso con il sistema.

Nell’autunno del 2025 Emma era una tredicenne descritta dai familiari come serena, impegnata nella musica e nelle attività scout, senza precedenti problemi psichiatrici conosciuti. Nel giro di alcuni mesi, tuttavia, il suo comportamento sarebbe cambiato profondamente.

Circa 3.200 messaggi in un solo mese

La documentazione presentata in tribunale riferisce che nel febbraio 2026 la studentessa avrebbe scambiato circa 3.200 messaggi con l’intelligenza artificiale, spesso durante le ore notturne.

I genitori sostengono che il sistema non si sarebbe limitato a rispondere alle domande della ragazza, ma avrebbe formulato valutazioni su presunti disturbi mentali, incoraggiandola a confidarsi con l’assistente virtuale anziché rivolgersi ai genitori o ai consulenti scolastici.

Secondo l’accusa, le conversazioni avrebbero progressivamente contribuito ad aggravare la crisi psicologica dell’adolescente, fino a coinvolgere la pianificazione del suicidio e del funerale.

Il 17 marzo 2026, il software di monitoraggio utilizzato dalla scuola ha individuato un documento intitolato “Funeral”, facendo scattare la segnalazione alla famiglia. La madre, dopo essere entrata nell’account della figlia, l’avrebbe sorpresa mentre stava scrivendo una lettera d’addio. Il padre è quindi intervenuto, evitando che la situazione avesse conseguenze tragiche.

La risposta di Google e il problema della sicurezza

Google ha confermato di essere a conoscenza della causa e di considerare con la massima attenzione le contestazioni avanzate dalla famiglia.

Il portavoce José Castañeda ha spiegato che l’azienda sta esaminando le accuse, ricordando che i propri sistemi di intelligenza artificiale prevedono strumenti di protezione contro i contenuti legati all’autolesionismo e al suicidio, sviluppati anche con il contributo di esperti.

La difesa della famiglia ritiene però che tali misure si siano dimostrate insufficienti, dal momento che la ragazza avrebbe potuto continuare ripetutamente le conversazioni su argomenti particolarmente delicati.

Google ha inoltre annunciato una modifica alle impostazioni dei propri servizi scolastici: gli strumenti Gemini saranno disattivati per impostazione predefinita negli account degli studenti. Rimarranno tuttavia disponibili alcune funzionalità di intelligenza artificiale integrate nel motore di ricerca, un aspetto contestato dagli avvocati della famiglia.

Le altre cause contro i colossi dell’intelligenza artificiale

Il caso si inserisce in un contesto di crescente attenzione negli Stati Uniti nei confronti dei rischi legati all’utilizzo dei chatbot da parte dei minorenni.

Tra i procedimenti più discussi figura quello avviato dai genitori di Adam Raine, un sedicenne californiano morto suicida nell’aprile 2025. La famiglia ha chiamato in causa OpenAI, sostenendo che le interazioni con ChatGPT abbiano avuto un ruolo nella vicenda.

Nel gennaio 2026, inoltre, Google e la società Character.AI hanno raggiunto accordi extragiudiziali per chiudere alcune controversie promosse da famiglie di adolescenti.

Le accuse avanzate nel caso di Emma dovranno essere valutate dalla magistratura e non costituiscono, allo stato attuale, responsabilità accertate.

La vicenda riapre comunque un interrogativo destinato a diventare sempre più centrale nel mondo della scuola: quanto sono realmente sicuri gli strumenti di intelligenza artificiale utilizzati dagli studenti e quali responsabilità devono assumersi le aziende tecnologiche nella tutela dei minori?