Scorie - Un cartello, ma per il nostro bene



Con sempre maggiore frequenza, i fondatori delle principali società che sviluppano modelli di intelligenza artificiale lanciano allarmi sui pericoli di estinzione dell'umanità a opera dei loro stessi prodotti. Iniziò Sam Altman di Open AI, progetto che nacque senza scopo di lucro, salvo poi raccogliere capitale a valutazioni via via crescenti per centinaia di miliardi di dollari, con lo stesso Altman non più avverso ai profitti.

Poi venne il turno di Dario Amodei, fondatore di Anthropic, che finì nella lista nera di Orange Man perché fece un contratto con l'esercito, salvo poi pretendere che i suoi modelli di intelligenza artificiale non fossero usati a scopo militare offensivo.

Adesso Amodei ha evocato la collaborazione tra le principali società che producono modelli di AI e il governo federale per controllare il ritmo di sviluppo, perché altrimenti potrebbe diventare incontrollabile e, come ha sostenuto un ex dipendente della stessa Anthropic appena dimessosi, cancellare l'umanità entro fine decennio.

Al pari di Open AI, Anthropic ha raccolto capitale a valutazioni stratosferiche e progetta di quotarsi in Borsa, tra l'altro ritenendo di avere un mercato potenziale da 30mila miliardi di dollari, contro una stima della recentemente quotata SpaceX di 28500 miliardi.

Amodei vorrebbe quindi un accordo tra le principali società di AI e il governo federale, per regolare la questione e sottoporsi a audit esterni. Evocando scenari da guerra fredda:

"Il ritmo di sviluppo all'interno delle democrazie sarà condizionato dal vantaggio che le aziende statunitensi detengono rispetto ai regimi autoritari, in particolare al Partito Comunista Cinese. Se dovessimo rallentare oltre tale misura, i progetti legati al PCC (non soggetti a tali vincoli di ritmo) finirebbero per superarci, creando un rischio significativo per la sicurezza nazionale. Concordo con il Segretario Bessent sul fatto che un primato cinese nell'IA rappresenterebbe un grave pericolo per gli Stati Uniti e per il mondo intero."

Non ho le competenze tecniche per valutare nel merito gli allarmi di questi signori, ma la situazione assomiglia ad altre già vissute in passato.

Se davvero i pericoli sono quelli evocati e loro sono così preoccupati, non si capisce perché non abbiano fatto altro che raccogliere denaro per accelerare. Sembra tanto una classica situazione di gioco non cooperativo che è alla base del fallimento dei cartelli privati, motivo per cui si invoca l'intervento del governo per regolamentare l'attività. Promettendo collaborazione tecnica, che poi significa definire le regole come meglio aggrada.

Il risultato non dichiarato è quello di istituzionalizzare il cartello e limitare la concorrenza, garantendo una sostanziale rendita di posizione. Il richiamo alla sicurezza nazionale e ai pericoli cinesi (non voglio negare che esistano, peraltro) può sembrare, all'occhio del cinico (o del realista) come funzionale a rendere il tutto digeribile per il grande pubblico.

E in effetti trovo condivisibili le considerazioni espresse da Aidan Gomez, CEO di Cohere, una start-up di AI canadese, secondo cui si tratta di "un lupo travestito da pecora, un cartello chiamato diversamente."

La storia ne è piena, non solo negli Stati Uniti. Ma restando in America, nel settore ferroviario fu così a fine Ottocento. Per non parlare dell'istituzione della Federal Reserve nel settore bancario e monetario nel 1913.

Si sono prontamente detti d'accordo con Amodei tanto Sam Altman, Elon Musk e altri CEO delle principali società del settore. E questo è stato registrato con stupore da diversi organi di informazione (il Financial Times ha parlato di una "rara dimostrazione di consenso"), quando in realtà è esattamente quello che succede quando chi ha raggiunto una certa dimensione e posizione di mercato preferisce proteggersi dalla concorrenza piuttosto che continuare a doverla fronteggiare.

Solo che un cartello tra privati, oltre a non reggere, avrebbe problemi di antitrust. Se istituzionalizzato dal governo, il problema dell'antitrust è risolto. Ovviamente perché Amodei e simili hanno a cuore il bene dell'umanità.