Le dimissioni del ricercatore Jacob Coxon da Anthropic riaccendono il dibattito sui rischi dell’intelligenza artificiale. Ma il vero problema non è immaginare scenari da fantascienza: è capire chi possa governare una corsa che nessuno dei protagonisti vuole rallentare.
Quando uno dei ricercatori che contribuiscono a costruire i sistemi di intelligenza artificiale più avanzati decide di dimettersi perché considera quella stessa tecnologia potenzialmente pericolosa per l’umanità, la notizia merita attenzione. Ma forse non per le ragioni più immediate.
Jacob Coxon, 27 anni, informatico britannico con esperienze in OpenAI e Anthropic, ha lasciato quest’ultima accusando entrambe le aziende di non agire responsabilmente. «Stanno giocando d’azzardo con le nostre vite», ha scritto su X, arrivando a evocare la possibilità che l’IA possa rappresentare una minaccia esistenziale entro la fine del decennio.
Parole estreme. Ma ancora più sorprendente è che all’interno di Anthropic qualcuno gli abbia dato sostanzialmente ragione. Il ricercatore Evan Hubinger ha parlato di una probabilità superiore al 10% che nei prossimi dieci anni l’intelligenza artificiale possa produrre conseguenze catastrofiche per l’umanità.
Non è la prima volta che gli allarmi più forti arrivano proprio da chi questa tecnologia la sviluppa. Sam Altman, Dario Amodei, Elon Musk e Bill Gates, con valutazioni e interessi differenti, hanno tutti indicato rischi profondi connessi all’evoluzione dell’IA.
Ed è qui che emerge il primo paradosso: le stesse aziende che ci avvertono dei pericoli dell’intelligenza artificiale sono impegnate in una corsa senza precedenti per renderla sempre più potente.
Una contraddizione che può certamente avere anche una componente di marketing. Presentare l’IA come la tecnologia più potente mai costruita significa, inevitabilmente, accrescere anche il valore economico e strategico di chi la controlla. Ma liquidare tutto come una strategia comunicativa sarebbe altrettanto superficiale.
Il problema reale è che oggi nessuno sembra nelle condizioni di rallentare.
OpenAI non può fermarsi se Anthropic continua a correre. Anthropic non può farlo se accelerano Google, Meta o xAI. E le aziende americane guardano a loro volta alla Cina, perché in una tecnologia considerata decisiva per il futuro economico, militare e geopolitico perdere il vantaggio potrebbe avere conseguenze enormi.
È una dinamica che ricorda da vicino una corsa agli armamenti: tutti possono riconoscere i rischi dell’escalation, ma nessuno vuole essere il primo a fare un passo indietro.
La competizione verso l’intelligenza artificiale generale, la cosiddetta AGI, rende il problema ancora più evidente. L’obiettivo è sviluppare sistemi capaci di svolgere un numero sempre maggiore di attività intellettuali a livelli comparabili o superiori a quelli umani. Ma mentre aumentano rapidamente le capacità dei modelli, resta aperta una questione fondamentale: come garantire che sistemi sempre più autonomi continuino a operare secondo le intenzioni e gli interessi degli esseri umani?
È il problema dell’“allineamento”, sul quale non esiste ancora una soluzione definitiva.
Forse, però, concentrarsi esclusivamente sulla possibilità che un giorno una superintelligenza decida di sterminare l’umanità rischia di distrarci dai problemi che sono già davanti a noi.
L’intelligenza artificiale può trasformare radicalmente il mercato del lavoro, concentrare una quantità enorme di potere economico e informativo nelle mani di poche aziende, moltiplicare la capacità di produrre disinformazione, rendere più sofisticati i cyberattacchi, aumentare le possibilità di sorveglianza e facilitare lo sviluppo di strumenti militari e biologici sempre più avanzati.
Non serve immaginare Terminator per capire che la questione è seria.
La domanda decisiva, allora, non è se l’intelligenza artificiale distruggerà l’umanità entro il 2030. È chi controllerà chi la sta costruendo.
Perché se persino coloro che sviluppano questi sistemi sostengono che i rischi sono enormi, difficilmente possiamo pensare che siano le sole aziende tecnologiche a stabilire quali rischi siano accettabili.
Servono regole, controlli indipendenti e istituzioni capaci di verificare le tecnologie prima che vengano diffuse su larga scala. Esattamente come avviene in altri settori nei quali l’innovazione può produrre benefici straordinari, ma anche conseguenze altrettanto profonde.
Le dimissioni di Coxon, quindi, raccontano qualcosa di più importante della scelta personale di un giovane ricercatore. Raccontano il paradosso nel quale siamo entrati: stiamo costruendo una tecnologia che gli stessi costruttori definiscono potenzialmente pericolosa, mentre la competizione economica e geopolitica spinge tutti ad accelerare.
Il problema non è più capire se l’intelligenza artificiale cambierà il mondo. Lo sta già facendo. Il problema è decidere se saremo capaci di governarla prima che sia la velocità della competizione a decidere per noi.
