Leike ha espresso preoccupazioni profonde riguardo alla gestione della sicurezza nell’ambito dello sviluppo dei prodotti IA di OpenAI, come il noto ChatGPT. Attraverso un messaggio su X, l’ex piattaforma Twitter, ha criticato l’azienda per aver relegato la sicurezza a un piano inferiore rispetto alla commercializzazione di prodotti sempre più avanzati. Queste affermazioni sono emerse in concomitanza con la rivelazione, da parte di un articolo di Wired, che OpenAI aveva sciolto il suo team interno dedicato alla gestione dei rischi a lungo termine dell’IA, noto come “Superalignment team”, di cui Leike era a capo.
Il “Superalignment team” era stato istituito con l’obiettivo di affrontare le sfide tecniche cruciali legate ai protocolli di sicurezza nell’era delle intelligenze artificiali avanzate. La missione era di sviluppare IA capaci di operare con capacità cognitive pari o superiori a quelle umane, un compito che Leike descrive come “un impegno enorme”. Egli ha sottolineato come OpenAI stesse imponendo “una responsabilità gigantesca sulle spalle di tutta l’umanità”, evidenziando la portata e l’importanza del lavoro svolto.
OpenAI, originariamente fondata con l’intento di rendere i suoi modelli di IA liberamente accessibili, ha modificato nel tempo la sua politica, introducendo modelli a pagamento. Questo cambiamento ha sollevato questioni etiche e pratiche, poiché l’accesso indiscriminato a tecnologie potenti potrebbe avere conseguenze imprevedibili. Leike, nei suoi messaggi, ha messo in guardia sulla necessità di prendere “incredibilmente sul serio le implicazioni dell’intelligenza artificiale generativa” e di prioritizzare la preparazione a queste sfide per garantire che l’IA sia un beneficio per l’umanità.
Nonostante le critiche, OpenAI ha continuato a innovare, lanciando una nuova versione del suo modello generativo, il GPT-4o, che, a differenza del suo predecessore, è disponibile gratuitamente, sebbene con alcune limitazioni nelle funzionalità. Tuttavia, Leike ha mantenuto una posizione critica nei confronti delle decisioni strategiche dell’azienda, culminando in un “punto di rottura” che ha portato alle sue dimissioni.
