- Forum AI è la startup fondata dall'ex dirigente Meta Campbell Brown per valutare quanto i principali modelli linguistici siano accurati su argomenti sensibili come geopolitica, salute mentale e finanza.
- La metodologia prevede benchmark progettati da esperti di settore (inclusi Tony Blinken e Fareed Zakaria) e giudici IA addestrati a raggiungere il 90% di consenso con le loro valutazioni umane.
- I test hanno già rilevato bias politici e errori sistematici nei modelli più diffusi; la startup ha raccolto 3 milioni di dollari e punta sul mercato enterprise per trasformare la compliance in revenue.
Quando l’accuratezza dell’AI non è una priorità per nessuno
Campbell Brown ha trascorso anni a rincorrere l’informazione accurata: prima come giornalista televisiva di primo piano, poi come responsabile delle notizie di Facebook, il primo ruolo del genere nell’azienda di Zuckerberg.
Quando ChatGPT è diventato pubblico, Brown era ancora in Meta, e la consapevolezza di ciò che stava per succedere è arrivata in fretta. “Questo diventerà il canale attraverso cui fluirà tutta l’informazione”, ha ricordato. “E non è per niente buono.”
Da quella intuizione è nata Forum AI, fondata circa 17 mesi fa a New York. L’obiettivo è valutare le prestazioni dei modelli fondazionali su quello che Brown chiama “temi ad alto rischio”: geopolitica, salute mentale, finanza, selezione del personale. Argomenti dove, come dice lei, “non esistono risposte sì o no, è tutto sfumato e complesso.”
Come funziona la valutazione: esperti umani e giudici IA
Il metodo di Forum AI parte dall’identificazione dei massimi esperti mondiali nelle aree di interesse, che progettano i benchmark. Poi vengono addestrati dei giudici artificiali per valutare i modelli su larga scala.
Per l’area geopolitica, Brown ha coinvolto figure come Niall Ferguson, Fareed Zakaria, l’ex Segretario di Stato Tony Blinken, l’ex Speaker della Camera Kevin McCarthy e Anne Neuberger, che ha guidato la cybersecurity durante l’amministrazione Obama. L’obiettivo è portare i giudici IA a un consenso del 90% rispetto alle valutazioni degli esperti umani, una soglia che Forum AI dichiara di aver raggiunto.
Quando la startup ha cominciato a testare i modelli più diffusi, i risultati non erano incoraggianti. Brown ha citato il caso di Gemini che attingeva a siti del Partito Comunista Cinese “per storie che non hanno nulla a che fare con la Cina”, e ha rilevato un’inclinazione politica tendenzialmente progressista in quasi tutti i modelli esaminati.
Tra i problemi più sottili segnalati: contesto mancante, prospettive assenti, argomentazioni presentate in modo distorto senza alcuna segnalazione all’utente.
La parte inquietante è che l’AI sembra sicura di sé
Uno degli aspetti più delicati dei chatbot moderni è che gli errori spesso non appaiono come errori. Le risposte sono fluide, sicure, ben scritte e soprattutto, convincenti. Ed è proprio questo a renderle pericolose.
Per molti utenti, distinguere tra informazione affidabile, interpretazione distorta ed errore plausibile sta diventando sempre più difficile.
In particolar modo ora che i chatbot vengono usati come sostituti di motori di ricerca, forum, documentazione, assistenza clienti e persino supporto psicologico personale.
Studi simili sulla affidabilità dell’IA rispetto ai media tradizionali confermano questo quadro: secondo alcune analisi recenti, i principali modelli linguistici risulterebbero meno affidabili persino dei social network, con Grok in fondo alla classifica.
Il nodo del mercato: dalle checkbox agli audit reali
Brown conosce bene la distanza tra le intenzioni dichiarate e i risultati effettivi. In Facebook ha visto cosa succede quando una piattaforma ottimizza per le metriche sbagliate. Il programma di fact-checking che aveva costruito non esiste più, e la lezione rimane inascoltata: ottimizzare per il coinvolgimento ha danneggiato la qualità dell’informazione su scala globale.
La scommessa di Forum AI è che le aziende, non i singoli utenti, possano diventare la leva del cambiamento. Chi usa l’IA per decisioni di credito, assicurazioni o selezione del personale ha una concreta esposizione legale e “vorrà ottimizzare per ottenere risposte corrette”.
Ma trasformare questo interesse in entrate stabili è tutt’altro che semplice, soprattutto in un mercato ancora soddisfatto da audit standardizzati che Brown considera del tutto inadeguati.
Il panorama della compliance è, secondo lei, “una barzelletta”. Quando la città di New York ha approvato la prima legge sugli audit per i sistemi di IA nelle assunzioni, il revisore dei conti dello Stato ha rilevato che oltre la metà delle aziende aveva violazioni passate inosservate.
La valutazione reale, sottolinea Brown, richiede competenza di dominio per affrontare non solo scenari noti ma anche i casi limite che “nessuno considera, ma che possono creare problemi seri”.
Tre milioni di dollari e una missione difficile da monetizzare
Lo scorso autunno Forum AI ha raccolto 3 milioni di dollari in un round guidato da Lerer Hippeau. Una cifra modesta rispetto alle dimensioni del problema che la startup vuole affrontare. Brown descrive con chiarezza il divario tra il racconto dell’industria e l’esperienza degli utenti comuni: da un lato i CEO delle grandi tech che annunciano rivoluzioni e cure per il cancro, dall’altro persone che usano i chatbot per domande semplici e continuano a ricevere risposte sbagliate.
La fiducia nei sistemi di IA è ai minimi storici, e Brown ritiene che questo scetticismo sia in larga parte giustificato. “La conversazione che avviene a Silicon Valley riguarda una cosa, quella che avviene tra i consumatori è completamente diversa.” La domanda aperta, quella su cui Forum AI sta cercando di costruire un business, è se esista davvero la volontà, nel mercato enterprise, di pagare per l’accuratezza invece di limitarsi a dichiararne l’importanza.
Ma la vera domanda è: esiste davvero un incentivo economico forte per rendere l’AI più accurata? Oppure il mercato continuerà a premiare soprattutto velocità, comodità, automazione ed engagement anche quando le risposte non sono del tutto corrette?
