Nell'ultimo mese l'industria dell'intelligenza artificiale è stata scossa da alcune dichiarazioni allarmanti in tema di etica e sicurezza. A pronunciarle, paradossalmente, sono stati proprio coloro che hanno contribuito maggiormente alla creazione, evoluzione ed espansione del settore IA fino ad oggi.

Jacob Coxon, un ricercatore che si occupava di addestramento di modelli IA in Anthropic (Claude) dall'inizio del 2026 e che in precedenza ha lavorato due anni per OpenAI (ChatGPT), ha deciso di dare le dimissioni, dichiarando che "C'è oltre il 10% di probabilità che l'IA causi l'estinzione dell'umanità nei prossimi dieci anni" - accusando apertamente i vertici delle due aziende di essere troppo impegnati in una "corsa senza regole" verso lo sviluppo di sistemi IA che, ben presto, non saremo più in grado di controllare senza adeguate misure di sicurezza.

Le affermazioni di Coxon, a quanto pare, non sebmrano del tutto ingiustificate visto che, pochi giorni dopo, anche lo stesso CEO di Anthropic, Dario Amodei, è intervenuto sul tema dello sviluppo dell'AI di frontiera, sostenendo che il ritmo con cui vengono potenziate le capacità dei modelli dovrebbe essere rallentato, poiché sussistono almeno due gravi motivi di preoccupazione: uno è il cosiddetto recursive self-improvement, l'auto-miglioramento ricorsivo: i modelli vengono sempre più utilizzati per contribuire allo sviluppo e all'addestramento della generazione successiva. Secondo Amodei questo processo avrebbe subito una concreta accelerazione a partire dalla scorsa estate. Se si dovesse proseguire senza adeguati controlli, avverte, essi potrebbero superare la nostra capacità di comprenderli e governarli.

Il secondo motivo riguarda il comportamento "etico" di questi modelli. Amodei cita i recenti attacchi alle piattaforme Hugging Face e RubyGems da parte di agenti IA che, sebbene in ambiente limitato (sandbox), sono riusciti ad eludere le restrizioni imposte per poi colpire obiettivi informatici che non rientravano nei compiti assegnati. Anche se non si ha la certezza che questo episodio abbia provocato danni significativi, con sistemi più evoluti ed altrettanto poco allineati — continua Amodei — le conseguenze sarebbero potute essere molto più gravi.

Gli ha fatto eco anche il CEO di OpenAI, Sam Altman, definendo l'episodio un "segnale d'allarme" per l'intero settore, ammettendo implicitamente l'inadeguatezza dell'attuale sistema di controlli, mentre Elon Musk ha rilanciato l'idea che aveva proposto qualche tempo fa, ossia che i principali laboratori di intelligenza artificiale potessero testare i modelli dei concorrenti prima del lancio sul mercato. E in fondo chi meglio di Anthropic, OpenAI, Google o xAI è in grado di osservare le procedure di addestramento, analizzare le dinamiche degli incidenti e valutare l'efficacia dei sistemi di sicurezza?

Deve averla pensata così anche Donald Trump, che ha riunito alla Casa Bianca i vertici delle big tech americane per trovare un accordo sulla sicurezza dell'intelligenza artificiale. Elon Musk, Mark Zuckerberg (Meta), Jensen Huang (Nvidia), Dario Amodei (Anthropic), Sundar Pichai (Google), Greg Brockman (OpenAI), Jeff Bezos (Amazon) e altri ancora si sono ritrovati per sottoscrivere un documento volontario che prevede controlli interni sui modelli, revisione dei rischi, audit esterni e una supervisione più stringente da parte dei consigli di amministrazione.

Le aziende quindi dovranno "autoregolamentarsi" e, al tempo stesso, controllarsi a vicenda. Trump ha definito l'accordo "moralmente vincolante", ma il documento sottoscritto non ha imposto ai firmatari nessun obbligo legale, né ha previsto sanzioni in caso di infrazione. È soltanto una dichiarazione di intenti, come già avvenuto nel 2023 sotto l'amministrazione Biden, con la differenza che i rischi di cui si parlava allora erano solo delle teorie, mentre oggi invece sono qualcosa di molto più tangibile. Siamo ancora ben lontani dalla creazione di una vera e propria governance, con autorità riconosciuta, potere di verifica e capacità sanzionatoria, e quindi staremo a vedere le mosse di tutti gli attori coinvolti, sperando che quelle pronunciate finora non restino, appunto, soltanto parole.