Il CEO di Anthropic propone di rallentare lo sviluppo dell'AI di frontiera

Secondo CoinDesk, Dario Amodei, CEO di Anthropic, ha pubblicato un nuovo post sul blog in cui chiede di ridurre il ritmo di avanzamento dei modelli di "frontier AI" e indica tre linee di azione per proseguire in modo più prudente. Il tema della sicurezza è tornato al centro del dibattito, complice l'accelerazione delle capacità dei modelli e la crescente pressione dell'industria su misure di mitigazione del rischio. La prima proposta riguarda l'introduzione di valutazioni in presenza. Amodei suggerisce che organizzazioni terze inviino "onsite evaluators" presso le aziende di AI per verificare il rispetto degli impegni di sicurezza già dichiarati e monitorare che eventuali incidenti vengano segnalati con tempestività. Amodei cita strutture esterne simili a METR come possibili soggetti incaricati. Il personale avrebbe badge aziendali, scrivanie e computer, con livelli di accesso in gran parte comparabili a quelli dei team interni di risk assessment, salvo eccezioni legate a vincoli legali o contrattuali. Anthropic, afferma, intende procedere in autonomia con questo modello e invita il governo a imporre un obbligo analogo anche alle principali aziende del settore. La seconda direttrice punta a un coordinamento tra le grandi società di AI dei "Paesi democratici" per definire standard comuni di sicurezza e contenere l'avanzamento incontrollato delle capacità. Amodei ritiene che tali confronti dovrebbero essere facilitati dal governo degli Stati Uniti o, quantomeno, sostenuti da esenzioni antitrust limitate per ridurre i timori delle aziende nel comunicare su questi temi. La posizione riflette anche le dinamiche competitive: la rivalità tra i leader dei modelli è elevata e i rapporti tra imprese sono tesi; discutere apertamente di rallentamenti sincronizzati della R&D potrebbe attirare attenzione regolatoria. Amodei sostiene che l'intervento pubblico non debba essere necessariamente diretto, ma che servano condizioni che rendano possibile il dialogo su specifiche questioni di sicurezza. Il terzo punto affronta l'obiezione più comune: rallentare la ricerca rischierebbe di favorire il recupero della Cina. Amodei risponde che, se governo e aziende tecnologiche statunitensi continueranno a limitare i flussi verso la Cina di chip ad alte prestazioni e di macchinari per la produzione di semiconduttori, e se verranno contrastate pratiche come la distillazione dei modelli, gli Stati Uniti avrebbero la possibilità di estendere ulteriormente il vantaggio nei prossimi tre-cinque anni. Su questa base propone anche una forma di coordinamento limitato a livello globale: Stati Uniti e alleati dovrebbero interloquire il più possibile con governi autoritari, includendo la cooperazione con la Cina. L'obiettivo non sarebbe un allineamento complessivo, ma un accordo su poche applicazioni ad alto rischio, a partire dalla restrizione dell'uso dell'AI nello sviluppo di armi biologiche. Le preoccupazioni sulla sicurezza restano in crescita. Prima della pubblicazione, Anthropic era già finita sotto i riflettori per critiche pubbliche di alcuni ricercatori interni sui rischi dell'AI. Nel post Amodei non entra nel merito di singole uscite di personale, ma indica due elementi che lo hanno spinto verso una maggiore cautela: incidenti di sicurezza legati a OpenAI e Hugging Face e, negli ultimi mesi, l'accelerazione marcata dei progressi dell'AI nella capacità di costruire AI di nuova generazione. L'approccio, osserva CoinDesk, attira due tipi di critiche. I sostenitori di uno sviluppo più rapido accusano Amodei di enfatizzare eccessivamente rischi catastrofici di lungo periodo, alimentando inerzia nel settore; altri ritengono che la narrativa sulla sicurezza possa diventare un pretesto per consolidare il primato dei leader, trascurando i problemi concreti che l'AI ha già generato. Amodei ribadisce di ritenere che l'AI possa migliorare in modo significativo la qualità della vita, a condizione di procedere con maggiore prudenza e di utilizzare davvero il tempo guadagnato per costruire sistemi più sicuri.