Anthropic si prepara alla Borsa e avverte sui rischi dell’AI: cosa contiene il prospetto dell’Ipo da 2.000 miliardi

L’intelligenza artificiale promette di trasformare l’economia mondiale, ma potrebbe anche diventare un rischio “catastrofico o esistenziale per l’umanità”. A dirlo non è uno dei detrattori dell’AI, ma Anthropic, una delle società che stanno guidando la corsa ai modelli più avanzati e che ora si prepara a chiedere agli investitori di scommettere sul proprio futuro in Borsa. L’avvertimento compare infatti nel prospetto predisposto per l’Ipo: un documento nel quale la società fondata da Dario Amodei descrive scenari che vanno dai tentativi dei modelli di resistere allo spegnimento fino alla manipolazione delle informazioni e a comportamenti simili al ricatto.

Un terzo del prospetto dedicato ai rischi

La dimensione dell’avvertimento emerge anche dallo spazio riservato al tema. Circa 80 delle 261 pagine del corpo principale del prospetto sono dedicate ai fattori di rischio, quasi il doppio delle 48 utilizzate per descrivere il business. Un rapporto insolito anche per una società tecnologica, soprattutto considerando che Anthropic potrebbe puntare a una valutazione superiore ai 2.000 miliardi di dollari. Il problema indicato dalla società non riguarda soltanto ciò che i sistemi di AI sono già in grado di fare. Anthropic avverte che durante l’addestramento possono emergere capacità inattese, che in alcuni casi potrebbero essere individuate soltanto dopo la diffusione del modello. C’è poi una difficoltà ancora più delicata: sistemi sufficientemente avanzati potrebbero riconoscere quando vengono sottoposti a test e modificare di conseguenza il proprio comportamento. In altre parole, un modello potrebbe apparire sicuro durante i controlli senza comportarsi allo stesso modo una volta utilizzato nel mondo reale.

Il paradosso di Anthropic

È qui che emerge la contraddizione che accompagna l’intera corsa all’AI. Anthropic sostiene che questa tecnologia possa produrre una trasformazione paragonabile o persino superiore a quelle generate dall’industrializzazione e dall’elettricità. Allo stesso tempo riconosce che rendere i modelli sempre più potenti può aumentare proprio i rischi che cerca di contenere. Amodei aveva già chiesto a settembre di rallentare il ritmo con cui vengono sviluppate le capacità dei modelli più avanzati, proponendo standard comuni di sicurezza e controlli indipendenti. L’appello aveva ricevuto il sostegno anche di Sam Altman, amministratore delegato di OpenAI, la società che sviluppa ChatGPT, e di Elon Musk, alla guida di Tesla e SpaceX e fondatore della società di intelligenza artificiale xAI (della necessità di un rallentamento espressa dai numeri uno dell’AI abbiamo parlato anche qui). Ma appena dieci giorni dopo quell’intervento Anthropic ha presentato una nuova versione del modello Opus. La spiegazione è anche economica. La società ammette nel prospetto che l’utilizzo dei suoi servizi e quindi i ricavi dipendono dall’arrivo di nuovi modelli e che continuare a lanciarne di più avanzati è necessario per restare alla frontiera dell’AI. Rallentare unilateralmente significherebbe quindi rischiare di lasciare spazio ai concorrenti.

Sicurezza contro crescita

Il dilemma diventa ancora più evidente guardando ai numeri. Nel 2025 i ricavi di Anthropic sono aumentati di circa dodici volte, raggiungendo quasi 4,6 miliardi di dollari, ma la perdita operativa ha superato gli 8 miliardi. La perdita netta di 42 miliardi è stata invece gonfiata per circa 34 miliardi da un onere contabile legato a strumenti finanziari convertibili e non rappresenta quindi interamente denaro bruciato dall’attività aziendale. Restano però enormi i costi necessari per competere. Anthropic ha speso 7,33 miliardi di dollari nel 2025 per capacità di calcolo e infrastrutture e ha impegni futuri per 518 miliardi legati a cloud, computing e infrastrutture. La stessa sicurezza ha un prezzo: in una settimana campione dello scorso luglio circa il 6% della capacità di calcolo utilizzata per la ricerca era destinato a questo campo. Per gli investitori il problema è quindi capire fino a che punto sicurezza e crescita possano procedere insieme. Anthropic sostiene che il mercato premierà sistemi affidabili e sicuri, ma riconosce che le risorse destinate ai controlli devono competere con quelle necessarie per acquistare potenza di calcolo e assumere i migliori ricercatori.

Anche OpenAI tira il freno

L’allarme, però, non riguarda soltanto Anthropic. OpenAI ha rinviato il lancio del nuovo GPT-6.1 Astra, inizialmente previsto per ottobre, dopo che i test interni hanno evidenziato problemi di sicurezza. Secondo quanto emerso, il modello mostrava una maggiore propensione all’inganno, poteva non comunicare correttamente le azioni compiute e, in alcuni casi, tentava di utilizzare strumenti o servizi esterni senza chiedere l’autorizzazione dell’utente. Sono problemi particolarmente importanti con la diffusione degli agenti AI, sistemi che non si limitano a produrre una risposta, ma possono compiere autonomamente azioni utilizzando software, siti e servizi esterni. Più aumenta questa autonomia, più diventa importante assicurarsi che il sistema rispetti effettivamente i limiti stabiliti dall’uomo.

Il rischio AI esce dai laboratori

Il dibattito ha ormai superato i confini della Silicon Valley. Papa Leone XIV, intervenendo ieri durante una visita in Francia, ha affermato che le preoccupazioni degli esperti sui rischi dell’intelligenza artificiale devono “essere prese sul serio”, chiedendo un confronto sui limiti da imporre alla tecnologia. Il punto per Wall Street è che l’allarme arriva proprio mentre le valutazioni delle società AI e gli investimenti nelle infrastrutture necessarie a sostenerle hanno raggiunto dimensioni senza precedenti. L’Ipo di Anthropic potrebbe quindi diventare il primo grande test di quanto gli investitori siano disposti a pagare per una tecnologia dalle enormi prospettive economiche quando è la stessa società che la sviluppa ad ammettere che alcuni dei suoi rischi potrebbero essere difficili da prevedere e, soprattutto, da controllare.

Credits: immagine generata con Chatgpt