- Sam Altman, CEO di OpenAI, ha chiesto pubblicamente scusa per non aver allertato le forze dell'ordine dopo aver rilevato conversazioni allarmanti su ChatGPT riguardanti l'autore della sparatoria a Tumbler Ridge nella British Columbia. OpenAI aveva bannato l'account a giugno per violazione delle policy ma non aveva coinvolto le autorità competenti.
- L'azienda si impegna ora a migliorare i protocolli di segnalazione alle autorità per minacce imminenti e credibili, riconoscendo che le scuse, sebbene necessarie, risultano gravemente insufficienti rispetto al danno subito dalla comunità.
La gestione delle conversazioni a rischio sulle piattaforme di intelligenza artificiale è tornata al centro del dibattito pubblico dopo quanto accaduto a Tumbler Ridge, una comunità della British Columbia. A due mesi da una sparatoria mortale che ha colpito la cittadina canadese, Sam Altman, amministratore delegato di OpenAI, ha deciso di rendere pubbliche le proprie scuse per non aver allertato le forze dell’ordine riguardo a conversazioni allarmanti rilevate su ChatGPT.
L’azienda aveva individuato e bannato l’account del sospetto, Jesse Van Rootselaar, già a giugno, quindi prima che si verificasse l’episodio di violenza. Il blocco era stato deciso per violazione delle policy di utilizzo, in particolare per contenuti che lasciavano intravedere un potenziale rischio di violenza nel mondo reale. Nonostante questo intervento preventivo interno, OpenAI non ha ritenuto necessario, in quel momento, coinvolgere le autorità competenti.
La lettera pubblica di Altman
Nella lettera diffusa dal giornale locale Tumbler RidgeLines, Altman ha espresso il proprio rammarico per la scelta compiuta dall’azienda. Ha scritto di essere profondamente dispiaciuto per non aver segnalato l’account bannato e ha riconosciuto che, pur sapendo che le parole non possono bastare, era necessario scusarsi pubblicamente per riconoscere il danno e la perdita irreversibile subita dalla comunità.
Prima della pubblicazione della lettera, Altman ha parlato con Darryl Krakowa, sindaco di Tumbler Ridge, e con David Eby, premier della British Columbia. Entrambi hanno concordato sull’opportunità di rendere pubbliche le scuse, pur rispettando i tempi del lutto della comunità. Eby ha condiviso la lettera di Altman sui propri canali social, sottolineando che le scuse erano necessarie ma gravemente insufficienti rispetto alla devastazione vissuta dalle famiglie colpite.
Gli impegni futuri di OpenAI
Nella stessa lettera, Altman ha ribadito l’impegno di OpenAI nel trovare modalità per prevenire tragedie simili in futuro. L’azienda ha dichiarato di voler lavorare con tutti i livelli di governo per garantire che episodi di questo tipo non si ripetano. Questo impegno si aggiunge a quanto già comunicato in precedenza da Ann O’Leary, vicepresidente per le politiche globali di OpenAI, che aveva annunciato l’intenzione di notificare le autorità qualora venissero rilevate minacce imminenti e credibili nelle conversazioni su ChatGPT.
La vicenda solleva interrogativi sulla responsabilità delle aziende tecnologiche nel monitoraggio dei contenuti e sulla soglia da raggiungere prima di coinvolgere le forze dell’ordine. Resta da vedere quali protocolli verranno messi in atto concretamente da OpenAI e se altre piattaforme seguiranno linee simili per la gestione di situazioni ad alto rischio.
