- OpenAI introduce il contatto di fiducia su ChatGPT, che permette agli utenti adulti di indicare una persona da avvisare in situazioni di crisi.
- Un team di revisori umani analizza le conversazioni per decidere se inviare la notifica, senza mai trasmettere il trascritto della chat.
- La funzione è opzionale e si affianca agli strumenti di sicurezza già esistenti su ChatGPT.
OpenAI introduce una nuova opzione di sicurezza per ChatGPT pensata per chi affronta momenti difficili. Il contatto di fiducia su ChatGPT consente agli utenti di designare una persona reale da avvisare se l’AI rileva segnali preoccupanti durante una conversazione.
La funzione non sostituisce ovviamente i servizi di emergenza né l’assistenza professionale. Rappresenta invece un livello aggiuntivo di supporto umano, attivabile solo con consenso esplicito e con garanzie precise sulla riservatezza dei dati.
Perché OpenAI ha sviluppato questa funzione
ChatGPT viene utilizzato da centinaia di milioni di persone ogni settimana, e una parte significativa impiega il chatbot per elaborare stati emotivi complessi. In questo contesto, OpenAI ha affrontato critiche e procedimenti legali legati a episodi in cui conversazioni su autolesionismo non hanno ricevuto risposte adeguate.
Il contatto di fiducia su ChatGPT nasce come risposta strutturale a queste criticità. Non si tratta di un semplice aggiornamento dell’interfaccia, ma di un meccanismo che integra intelligenza artificiale, revisione umana e rete sociale personale per gestire scenari ad alto impatto.
Configurazione e requisiti per inserire un contatto di fiducia su ChatGPT
Gli utenti adulti possono aggiungere un contatto di fiducia accedendo alle impostazioni di ChatGPT. La persona designata deve avere almeno 18 anni e riceve un invito che può accettare o rifiutare entro sette giorni.
Una volta attivata, la funzione non richiede azioni aggiuntive da parte dell’utente. Il contatto designato può essere rimosso in qualsiasi momento, così come l’utente può disattivare l’opzione senza limitazioni. La scelta resta sempre reversibile e sotto il controllo diretto delle persone coinvolte.
Come viene gestita una segnalazione di rischio
Quando i sistemi automatizzati di ChatGPT rilevano contenuti potenzialmente legati all’autolesionismo, l’utente riceve prima un avviso interno. Solo in seguito un team di revisori umani appositamente formati valuta la conversazione per confermare o meno la gravità della situazione.
Se la revisione conferma un rischio serio, il contatto di fiducia riceve una notifica via email, SMS o in-app. Il messaggio indica solo che è emerso un tema delicato e invita a mettersi in contatto con l’utente. Non vengono mai condivise trascrizioni, dettagli della chat o informazioni personali aggiuntive.
Privacy e limiti della notifica
OpenAI ha progettato il contatto di fiducia su ChatGPT con un approccio minimale alla condivisione dei dati: la notifica al contatto designato contiene esclusivamente il motivo generico dell’alert e un invito all’ascolto, senza esporre il contenuto delle conversazioni.
Questa scelta bilancia due esigenze contrapposte: garantire un punto di contatto umano in situazioni critiche e preservare la riservatezza dell’utente. La funzione si affianca, senza sostituirle, alle linee di ascolto locali già integrate in ChatGPT per le conversazioni sensibili.
Il ruolo della revisione umana nel processo
L’intervento di revisori qualificati rappresenta l’elemento distintivo di questa funzione. Affidare la valutazione finale a persone formate riduce il rischio di falsi positivi, ovvero notifiche inviate per conversazioni che non richiedevano un alert reale.
Allo stesso tempo, il sistema riconosce i limiti intrinseci del rilevamento automatico del linguaggio. OpenAI dichiara esplicitamente che nessun sistema è perfetto e che una notifica potrebbe non rispecchiare sempre con precisione ciò che l’utente sta vivendo in quel momento.
Impatto pratico per gli utenti di ChatGPT
Per chi utilizza ChatGPT come spazio di elaborazione emotiva, il contatto di fiducia su ChatGPT offre la possibilità di costruire una rete di supporto preventiva. Designare una persona quando si sta bene può abbassare la soglia per ricevere aiuto quando invece si affronta una crisi.
La funzione non è uno strumento di sorveglianza: richiede consenso esplicito da entrambe le parti e può essere disattivata in qualsiasi momento. Questa distinzione è cruciale nel dibattito attuale sul rapporto tra intelligenza artificiale e salute mentale.
Contesto normativo e sviluppi futuri
Lo sviluppo di Trusted Contact si inserisce in un percorso più ampio di OpenAI per rafforzare le misure di sicurezza legate alla salute mentale e alla segnalazione di situazioni di pericolo. L’azienda ha collaborato con oltre 260 esperti in 60 paesi e con l’American Psychological Association per definire i protocolli operativi.
Resta aperta la questione dell’equilibrio tra protezione e privacy percepita. Alcuni utenti potrebbero scegliere di non attivarsi alla funzione proprio per timore che le proprie conversazioni vengano monitorate, riducendo potenzialmente l’efficacia preventiva dello strumento.
OpenAI ha confermato che la distribuzione del contatto di fiducia su ChatGPT avverrà gradualmente nelle prossime settimane. Gli utenti che non vedono ancora l’opzione nelle impostazioni potranno accedervi non appena il rollout raggiungerà il loro account.
