AI, Amodei, Altman e Musk d’accordo: “bisogna rallentare”. Perché la Borsa teme una frenata

Per una volta Dario Amodei, Ceo di Anthropic, Sam Altman, Ceo di OpenAI ed Elon Musk, fondatore di xAI, sono d’accordo: l’intelligenza artificiale sta correndo troppo e bisogna rallentare. L’appello è partito sabato dal numero uno di Anthropic, la società che sviluppa Claude, ed è stato rapidamente condiviso dal fondatore di OpenAI e dal numero uno di xAI. Una convergenza insolita tra alcuni dei protagonisti più competitivi del settore, che arriva mentre crescono i timori che i modelli più avanzati possano diventare troppo potenti per essere controllati adeguatamente. Lunedì 14 settembre la Borsa ha mostrato immediatamente perché la questione interessa anche gli investitori: i titoli mondiali legati all’AI sono finiti sotto pressione, con SoftBank in calo di oltre il 10% a Tokyo, SK Hynix del 6,4%, Samsung Electronics del 4,1% e Tsmc dell’1,2%.

Amodei: bisogna rallentare

A dare il via al dibattito è stato Amodei con un saggio pubblicato nel fine settimana dal titolo We Must Pace the Frontier. Il punto centrale è netto: rallentare il ritmo con cui vengono aumentate le capacità dei modelli più avanzati, dando alle misure di sicurezza il tempo necessario per tenere il passo con la tecnologia. Non significa fermare l’intelligenza artificiale, ma evitare che le sue capacità crescano più velocemente della possibilità di comprenderle e controllarle. Amodei teme in particolare sistemi capaci di agire con sempre maggiore autonomia. Secondo il numero uno di Anthropic, nell’arco di sei-dodici mesi potrebbero emergere modelli sufficientemente potenti da coordinare gruppi di agenti AI in grado di provocare danni su larga scala attraverso internet. I timori sono aumentati dopo alcuni episodi nei quali sistemi avanzati sono riusciti a superare i limiti imposti durante i test o sono stati utilizzati per attività informatiche dannose. La proposta si articola su tre livelli. Le aziende dovrebbero innanzitutto consentire a valutatori indipendenti di controllare continuamente i modelli più avanzati, con un accesso ai sistemi paragonabile a quello dei dipendenti. I principali sviluppatori dovrebbero poi concordare standard comuni di sicurezza. Infine, i Paesi democratici dovrebbero cercare un coordinamento internazionale anche con governi rivali, per evitare che la competizione tecnologica renda impossibile qualsiasi rallentamento.

Altman e Musk, rivali insolitamente d’accordo

La sorpresa è arrivata dalle reazioni. Sam Altman ha condiviso l’impostazione di Amodei, annunciando che anche OpenAI permetterà a valutatori esterni di accedere ai propri sistemi. “Concordo con Dario sulla necessità di gestire i ritmi di sviluppo delle tecnologie di frontiera”, ha scritto. Poco dopo è arrivato anche Elon Musk, che con xAI compete direttamente con entrambe le società: “Dario ha ragione” (dei dubbi sul futuro dell’Ai anche del fondatore di Microsoft Bill Gates abbiamo parlato anche qui). Il consenso è significativo perché queste aziende sono impegnate in una corsa nella quale arrivare per primi al modello più potente può significare conquistare clienti, capitali e quote di mercato. Rallentare volontariamente significa quindi accettare, almeno in teoria, di sacrificare una parte della velocità di crescita in cambio di maggiore sicurezza. Ed è precisamente questo compromesso che preoccupa la Borsa. Le valutazioni raggiunte dalle società dell’AI e dai produttori di chip che alimentano questa tecnologia incorporano aspettative di crescita eccezionali per molti anni. Se lo sviluppo dei modelli dovesse davvero rallentare, potrebbe diminuire anche la velocità con cui vengono acquistati nuovi chip e costruiti data center.

Il paradosso di Anthropic

La contraddizione è particolarmente evidente per Anthropic. La società, valutata 965 miliardi di dollari all’inizio dell’anno, ha presentato in via riservata a giugno i documenti per quotarsi e ha scelto il Nasdaq. Lo sbarco in Borsa potrebbe arrivare già nei prossimi mesi e, nello scenario più ambizioso, la società potrebbe cercare una valutazione fino a 2.000 miliardi di dollari. Numeri che presuppongono una crescita enorme. A luglio Anthropic aveva raggiunto 65 miliardi di dollari di ricavi annualizzati, vale a dire il fatturato che produrrebbe in dodici mesi mantenendo il ritmo raggiunto in quel momento, circa sette volte quello dell’anno precedente. Secondo il Financial Times, la società avrebbe inoltre comunicato ad alcuni azionisti di aspettarsi un utile operativo per il secondo trimestre consecutivo. La domanda per gli investitori diventa quindi inevitabile: come si giustifica una valutazione da 2.000 miliardi se la stessa società che la chiede sostiene che l’industria debba rallentare?

Una frenata che può favorire i più grandi

Non tutti, però, ritengono che maggiore sicurezza significhi necessariamente minore crescita. Gil Luria, analista di D.A. Davidson, osserva che Anthropic non sta dicendo di voler smettere di sviluppare nuovi modelli o di acquistare capacità di calcolo. E regole più severe potrebbero addirittura rafforzare i leader del settore. Arun Chandrasekaran di Gartner sottolinea infatti che standard di sicurezza molto costosi sarebbero più facili da sostenere per colossi come Anthropic e OpenAI che per concorrenti più piccoli. Le aziende già in testa alla corsa potrebbero quindi trasformare la regolamentazione in una barriera all’ingresso. Luria arriva a parlare di possibile comportamento monopolistico: una volta raggiunta una posizione dominante, rallentare la corsa renderebbe più difficile agli inseguitori recuperare terreno. C’è inoltre un problema di fiducia. Più della metà degli americani afferma ormai di essere maggiormente preoccupata che entusiasta per la diffusione dell’AI. Presentarsi come l’azienda che chiede controlli più severi potrebbe quindi aiutare Anthropic a ridurre il rischio di una futura reazione politica e normativa.

Perché trema tutto il settore tech

La questione va infine molto oltre Anthropic. OpenAI e la società di Amodei sono tra i maggiori acquirenti al mondo di capacità di calcolo e hanno firmato contratti miliardari con gruppi come Nvidia, AMD e Google. OpenAI ha indicato agli investitori un obiettivo di circa 600 miliardi di dollari di spesa complessiva per capacità di calcolo entro il 2030. È per questo che la reazione negativa di oggi dei titoli AI conta. Il mercato ha costruito una parte importante delle valutazioni tecnologiche sull’idea di una corsa praticamente ininterrotta verso modelli sempre più potenti, che richiedono più chip, più server e più data center. Gene Munster di Deepwater Asset Management sintetizza il problema: qualsiasi rallentamento percepito è negativo perché gli investitori stanno scommettendo su miglioramenti esponenziali e continui dei modelli. Resta però da capire quanto delle dichiarazioni del fine settimana si trasformerà davvero in una frenata. Le stesse aziende continuano a investire decine di miliardi e nessuna vuole lasciare campo libero ai concorrenti, soprattutto cinesi. Per ora, quindi, Altman, Amodei e Musk hanno concordato sulla necessità di togliere il piede dall’acceleratore. La Borsa ha già reagito come se potessero farlo davvero.

Credits: immagine da Pexels