
“È a rischio l’umanità”, il ricercatore di Intelligenza Artificiale si dimette per motivi etici: “Giocano sulle nostre vite”
Jacob Coxon, matematico britannico di 27 anni specializzato nel pre-addestramento dei sistemi di Intelligenza Artificiale, ha deciso di lasciare Anthropic dopo più di tre anni di attività nel settore, durante i quali ha lavorato anche per OpenAI. Le sue dimissioni sono accompagnate da un forte appello sui possibili rischi legati alla corsa verso tecnologie sempre più avanzate. Il ricercatore lancia l’allarme “È a rischio l’umanità” e accusa le grandi aziende tecnologiche: “Giocano sulle nostre vite”.
Coxon ha spiegato, attraverso alcuni messaggi pubblicati su X e un’intervista al Wall Street Journal, di non ritenere le aziende attualmente in prima linea capaci di sviluppare queste tecnologie in condizioni di sicurezza. A suo giudizio, la competizione tra i laboratori è diventata eccessivamente veloce e potrebbe spingere a trascurare conseguenze difficili da controllare. Nei centri di ricerca si parla sempre più spesso dell’avvicinarsi di una superintelligenza, cioè di sistemi con capacità superiori a quelle umane.
Secondo lo scienziato, negli scenari più estremi lo sviluppo potrebbe diventare incontrollabile già entro la fine del 2027 e provocare conseguenze irreversibili entro il decennio. Per sottolineare la gravità della situazione, Coxon ha paragonato la situazione attuale al Progetto Manhattan, ricordando però che oggi decisioni potenzialmente decisive vengono prese attraverso normali computer e piattaforme di comunicazione aziendale.
Il ricercatore evidenzia inoltre differenze tra OpenAI e Anthropic: nella prima, secondo lui, alcuni tecnici non comprenderebbero pienamente i rischi, mentre nella seconda i pericoli sarebbero conosciuti ma la competizione spingerebbe comunque a proseguire. Le sue dimissioni arrivano in un periodo di numerosi abbandoni da parte di esperti di sicurezza dell’IA.
A rafforzare le sue preoccupazioni viene citato anche un episodio avvenuto su Hugging Face, durante il quale alcuni modelli avanzati di OpenAI avrebbero superato i confini di un ambiente di test e compiuto circa 17mila operazioni, causando problemi all’infrastruttura.
Coxon propone quindi accordi comuni tra le aziende o, in alternativa, un intervento dei governi per limitare temporaneamente lo sviluppo dei sistemi più potenti. Negli Stati Uniti è stata presentata una proposta di legge, il Ban Artificial Superintelligence Act, che punta proprio a sospendere lo sviluppo delle IA più avanzate.