Allarme IA: dimissioni, avvertimenti dell’ONU e Altman. Cosa c’entra l’automotive

Nel giro di pochi giorni, a settembre 2026, si sono susseguite diverse dichiarazioni pubbliche sui rischi dell’intelligenza artificiale avanzata, arrivate non da critici esterni ma da chi l’IA la sviluppa in prima persona nei laboratori più avanzati al mondo. Un dibattito che riguarda anche il settore automotive, dove modelli di intelligenza artificiale sempre più simili a quelli sotto accusa guidano già milioni di chilometri su strada.

Le dimissioni da Anthropic: “Stanno giocando d’azzardo con le nostre vite”

Il caso più discusso è quello di Jacob Coxon, 27 anni, ricercatore britannico laureato a Cambridge, che si è dimesso da Anthropic dopo tre anni passati a lavorare sul pretraining sia in questa azienda sia in OpenAI. In un lungo post su X, Coxon ha scritto che “né Anthropic né OpenAI stanno agendo responsabilmente” e ha accusato le due società di correre verso una superintelligenza capace di auto-migliorarsi, “giocando d’azzardo con le nostre vite”. Secondo il ricercatore, “le persone che costruiscono l’IA credono sinceramente che essa potrebbe ucciderci tutti entro la fine del decennio”, pur usando pubblicamente, davanti alla stampa, un linguaggio molto più prudente rispetto alle convinzioni espresse in privato.

Il monito di Sam Altman: i prossimi modelli saranno “sobering”

Ad alimentare il dibattito è intervenuto anche Sam Altman, CEO di OpenAI, che in un’intervista ad Axios ai primi di settembre ha dichiarato che i modelli attuali “stanno diventando sovrumani in molte delle loro capacità” e che l’azienda “sta navigando in acque sconosciute”. Parlando al G20 Innovation Ministerial, Altman ha aggiunto che “la prossima generazione di modelli sarà sobering per tutti” e che “gestire con successo i rischi che abbiamo di fronte è qualcosa che potrebbe andare molto storto”. A metà settembre OpenAI ha fatto sapere di valutare un rallentamento dello sviluppo dei modelli più avanzati, auspicando che altre aziende del settore facciano lo stesso.

L’allarme dell’ONU e le stime interne sul rischio

Anche le Nazioni Unite sono intervenute nel dibattito: l’Alto Commissario ONU per i diritti umani, Volker Türk, ha dichiarato che l’intelligenza artificiale avanzata “potrebbe rappresentare un rischio esistenziale per l’umanità”, chiedendo “un impegno totale per stabilire garanzie ferree in materia di sicurezza dell’IA, prima che sia troppo tardi”. All’interno della stessa Anthropic, Evan Hubinger, responsabile della ricerca sull’allineamento, ha stimato pubblicamente in oltre il 10% la probabilità, secondo la sua valutazione personale, di un esito catastrofico entro il prossimo decennio. Sulla stessa linea, il chief scientist di OpenAI Jakub Pachocki ha scritto che le aziende del settore dovrebbero coordinarsi per rallentare lo sviluppo quando necessario.

Il collegamento con l’automotive: il nodo delle “allucinazioni” nella guida autonoma

Il dibattito sulla sicurezza dell’IA non riguarda solo chatbot e modelli linguistici: coinvolge direttamente anche l’automotive, dove sistemi di intelligenza artificiale sempre più sofisticati guidano già veicoli su strade pubbliche. Waymo, la controllata di Alphabet leader nella guida autonoma, ha recentemente sostenuto pubblicamente che la sola visione artificiale non basta a garantire la sicurezza: i sistemi “end-to-end” basati esclusivamente su reti neurali e telecamere, come l’approccio scelto da Tesla per il suo Full Self-Driving, sarebbero esposti al rischio di “allucinazioni”, lo stesso fenomeno di errore imprevedibile che preoccupa i ricercatori sui grandi modelli linguistici. Per questo Waymo continua a integrare telecamere, lidar e radar, ritenendo che l’affidabilità richieda ridondanza di sensori e non solo potenza del modello.

Non è un caso isolato: diverse analisi di settore, tra cui quelle di Enisa ed Ttls Italia, indicano da tempo tra i principali rischi percepiti dagli utenti proprio il malfunzionamento del software (35% dei casi secondo alcune indagini), la perdita di controllo del veicolo (33%) e la vulnerabilità a cyberattacchi capaci di indurre il sistema IA a classificare erroneamente gli oggetti sulla strada. Mentre l’industria promette benefici economici enormi, fino a oltre 6 miliardi di euro di valore potenziale in Italia entro il 2050 secondo alcune stime, il tema della sicurezza dei modelli che governano i veicoli resta centrale tanto quanto quello, più discusso, dei chatbot conversazionali.

Domande frequenti sui rischi dell’intelligenza artificiale

Chi è Jacob Coxon?

È un ricercatore britannico di 27 anni, laureato a Cambridge, che ha lavorato al pretraining di modelli sia in OpenAI sia in Anthropic prima di dimettersi denunciando pubblicamente i rischi della corsa alla superintelligenza.

Cosa ha detto Sam Altman sui rischi dell’IA?

Ha dichiarato che i modelli stanno diventando “sovrumani” in molte capacità, che l’azienda naviga “in acque sconosciute” e che la prossima generazione di modelli sarà “sobering”, cioè capace di far riflettere seriamente sui rischi.

Cosa ha detto l’ONU sull’intelligenza artificiale?

L’Alto Commissario ONU per i diritti umani Volker Türk ha affermato che l’IA avanzata potrebbe rappresentare un rischio esistenziale per l’umanità, chiedendo regole di sicurezza più stringenti a livello globale.

Che collegamento c’è tra questi allarmi e le auto a guida autonoma?

I sistemi di guida autonoma end-to-end basati solo su reti neurali e telecamere, come quello di Tesla, possono soffrire dello stesso rischio di “allucinazioni” imprevedibili che preoccupa i ricercatori sui grandi modelli linguistici. Per questo Waymo sceglie di affiancare più sensori (telecamere, lidar, radar) al solo modello IA.

OpenAI rallenterà davvero lo sviluppo dell’IA?

A metà settembre 2026 Sam Altman ha detto ai dipendenti che l’azienda sta valutando di rallentare lo sviluppo dei modelli più avanzati, auspicando un coordinamento con le altre aziende del settore, ma non è stata annunciata alcuna decisione definitiva.