Dario Amodei chiede di rallentare l'IA, e i rivali Altman e Musk sono d'accordo

Dario Amodei, il capo dell'azienda di intelligenza artificiale Anthropic, ha chiesto di rallentare lo sviluppo dei modelli di IA. In poche ore, due rivali diretti gli hanno dato ragione: Sam Altman di OpenAI ed Elon Musk di xAI. È una cosa rara in un settore competitivo.

Nel suo testo "We Must Pace the Frontier", Amodei dice che investire in sicurezza non basta più. Bisogna rallentare la crescita dei modelli, per dare a ricercatori e governi il tempo di creare protezioni. Il piano prevede valutatori indipendenti che controllano i sistemi durante lo sviluppo, standard comuni e regole nazionali e globali. Non vuole fermare il progresso, ma rallentare con equilibrio. L'IA può ormai aiutare a costruire la prossima IA. Questo processo è accelerato dalla scorsa estate e, senza controllo, potrebbe superare la capacità umana di capire e governare i sistemi.

Musk è stato più breve: "Dario ha ragione". Ma Josh Gottheimer, della Commissione sull'IA della Camera, dice che è strano che a chiedere di rallentare siano proprio quelli che hanno corso a tutta velocità.

Il problema più grande è la Cina. Amodei dice che la frenata deve restare limitata, per non perdere il vantaggio commerciale e la leadership americana. Il senatore John Cornyn ha riassunto il dubbio: "Will China?", cioè: lo farà anche la Cina? Per Jacob Coxon, il ricercatore che ha lasciato Anthropic, un rallentamento americano non basta: serve un accordo con Pechino. Bernie Sanders ha detto che quando si corre verso un precipizio non basta premere meno forte sull'acceleratore, bisogna frenare.