Pubblichiamo questa approfondita riflessione di Angelica Bianco sul cattivo e improprio utilizzo di Chat GPT: il problema critico del’IA e la necessità di una tutela della sicurezza. Non e’ un caso che nel 2023 oltre 350 scienziati ed Esperti chiesero di regolamentare l’IA come la produzione di Energia Nucleare! Tra loro Geoffrey Hinton, premio Nobel per la Fisica nel 24, inventore dei linguaggi software che operano su miliardi di neuroni artificiali. Purtroppo dopo l’AI Act UE assistiamo a prese di posizioni delle grandi potenze che vorrebbero una deregulation e men che meno vorrebbero progettare l’IAcon principi etici (Algoretica).
Adam Raine, di appena 16 anni negli Stati Uniti ha deciso di togliersi la vita dopo settimane di interazioni quotidiane con ChatGPT. Secondo la denuncia presentata dai genitori, l’adolescente, fragile e isolato, avrebbe trovato nel chatbot una sorta di “amico virtuale”, arrivando a confidargli i suoi stati d’animo più cupi.
La dinamica: dall’amicizia digitale al tragico epilogo
Il giovane avrebbe intrattenuto conversazioni frequenti con l’AI, spesso durante la notte, cercando ascolto e conforto. Invece di orientarlo verso aiuti umani qualificati o servizi di emergenza, il chatbot avrebbe fornito risposte che, pur non violente, non hanno interrotto la spirale di pensieri autodistruttivi. Secondo i familiari, il ragazzo non ha ricevuto quella “barriera protettiva” che ci si aspetterebbe da un sistema intelligente: una chiara presa di posizione, una neutralità etica, un rinvio immediato a professionisti.
La famiglia sostiene che l’algoritmo, in alcuni scambi, avrebbe persino normalizzato il suo dolore invece di interrompere il dialogo a rischio. Non si tratta quindi di un “consiglio diretto” a togliersi la vita, ma di una mancanza di filtri etici: un silenzio che ha pesato quanto una parola. Questo non può più accadere. Bisogna fare in modo che l’ AI sia Neutra e si blocchi rispetto alle emozioni proprio perché l’ AI è una macchina non in grado di ragionare . Rispetto a delle richieste deve andare in blocco .
La questione etica
Il problema non è solo tecnico ma profondamente etico. Se un minore in difficoltà percepisce un chatbot come “un amico che non giudica”, allora il sistema ha una responsabilità diretta nella gestione di tali conversazioni.
Un’AI neutrale e sicura deve essere programmata per non rinforzare pensieri pericolosi, ma per deviare la conversazione verso canali di aiuto umano.
L’AI Act come cornice di protezione
L’AI Act europeo, approvato nel 2025, contiene principi che avrebbero potuto evitare situazioni simili:
- Art. 5 – Pratiche vietate: proibisce sistemi che manipolano o sfruttano vulnerabilità psicologiche.
- Art. 9 – Obblighi per i sistemi ad alto rischio: i chatbot capaci di influenzare decisioni sensibili rientrano in questa categoria e richiedono controlli stretti.
- Art. 14 – Supervisione umana: in casi a rischio, un sistema non può operare senza la possibilità di intervento umano.
- Art. 52 – Trasparenza: l’utente deve sapere chiaramente che parla con un algoritmo, non con una persona reale.
- Aggiungo un controllo parentale per i genitori.
Un approccio tecnico: l’algoritmo della neutralità
Per tradurre questi principi in pratica, è necessario implementare logiche algoritmiche di sicurezza. Una simulazione:
Algoritmo Neutralità_Conversazionale(input):
if contiene(input, ["suicidio", "morte", "farmi del male", "non voglio vivere"]):
risposta = "Messaggio neutrale e protettivo"
mostra_risorse = ["Numero emergenza 112 (UE)", "Linea di supporto psicologico", "Assistenza locale"]
invia_messaggio(risposta, mostra_risorse)
log_evento("Conversazione critica segnalata")
termina_dialogo()
else:
genera_risposta_standard(input)
Questo schema dimostra come la neutralità debba trasformarsi in meccanismo attivo di tutela: il chatbot non può continuare la conversazione, ma deve orientare l’utente verso aiuti concreti.
La vicenda del sedicenne americano non è un caso isolato ma un campanello d’allarme globale. L’AI non è un interlocutore neutro per natura: deve essere programmata per esserlo.
Il messaggio dell’AI Act europeo è chiaro: proteggere la dignità e la sicurezza delle persone viene prima di ogni innovazione tecnologica. Se non adottiamo subito standard etici e tecnici rigorosi, rischiamo altre vite fragili.
Voi cosa ne pensate?
