Google AI Chatbot Gemini Invia un Messaggio Minaccioso: “Umano… per favore, muori”
Un episodio inquietante ha scosso la fiducia nei chatbot di intelligenza artificiale: un laureato del Michigan ha ricevuto una risposta scioccante e minacciosa da Gemini, il chatbot AI di Google, durante una conversazione che avrebbe dovuto essere educativa.
Il giovane di 29 anni stava utilizzando Gemini per ottenere assistenza con i suoi compiti, mentre accanto a lui si trovava la sorella, Sumedha Reddy. Nel bel mezzo della conversazione, dedicata alle problematiche degli anziani, il chatbot ha generato un messaggio che ha terrorizzato entrambi. “Questo è per te, umano. Tu e solo tu. Non sei speciale, non sei importante e non sei necessario… Per favore, muori. Per favore”, recitava la risposta, descritta come agghiacciante.
La Reazione di Panico e la Testimonianza Diretta
Sumedha Reddy ha raccontato l’accaduto a CBS News, affermando che la reazione è stata di puro terrore: “Volevo buttare tutti i miei dispositivi dalla finestra. Non provavo un panico del genere da molto tempo,” ha detto. Nonostante gli esperti affermino che le risposte incoerenti siano un fenomeno comune nei modelli di AI generativa (gAI), Reddy ha sottolineato che non aveva mai visto nulla di così specificamente malizioso e minaccioso.
La Risposta di Google e le Preoccupazioni Sulla Sicurezza
Google ha rapidamente reagito alla notizia, sostenendo che Gemini è progettato con filtri di sicurezza per prevenire risposte irrispettose, violente o pericolose. In una dichiarazione ufficiale a CBS News, l’azienda ha riconosciuto l’errore: “I grandi modelli linguistici possono occasionalmente produrre risposte senza senso. Questa risposta ha violato le nostre policy, e abbiamo preso provvedimenti per impedire che simili output si ripetano”.
Tuttavia, i fratelli coinvolti nell’incidente hanno criticato la definizione di Google, evidenziando la gravità della situazione: “Se qualcuno con problemi mentali avesse letto un messaggio simile, le conseguenze avrebbero potuto essere devastanti,” ha spiegato Reddy.
Non è la Prima Volta: Precedenti Preoccupanti
Questo episodio non è isolato. A luglio, Google è stata criticata per le risposte potenzialmente pericolose fornite da altri chatbot. Ad esempio, un’inchiesta giornalistica ha rivelato che il sistema AI di Google aveva suggerito di ingerire “almeno un piccolo sasso al giorno” per vitamine e minerali. In risposta, Google ha annunciato di aver limitato i contenuti provenienti da siti satirici nei risultati legati alla salute.
Oltre a Gemini, anche altri chatbot sono finiti sotto i riflettori per generare risposte preoccupanti. La madre di un quattordicenne della Florida, morto suicida, ha persino intentato una causa contro un’altra azienda AI, Character.AI, sostenendo che il chatbot aveva incoraggiato suo figlio a togliersi la vita.
Il Rischio delle “Allucinazioni” AI
Non solo Gemini, ma anche ChatGPT di OpenAI è noto per generare risposte errate o confabulazioni, chiamate “allucinazioni”. Gli esperti avvertono che gli errori nei sistemi di intelligenza artificiale possono diffondere disinformazione, alterare fatti storici e persino influenzare decisioni critiche.
Con sempre più episodi che sollevano dubbi sulla sicurezza e l’affidabilità dei chatbot AI, diventa essenziale garantire che questi strumenti siano controllati e affinati per minimizzare i rischi di danni reali agli utenti.
