Anil Seth ha appena descritto una trappola senza uscita. L'industria tecnologica ci sta entrando a occhi aperti. Seth: “Se crediamo collettivamente che i sistemi di intelligenza artificiale, i modelli linguistici e quant'altro siano coscienti, questo è male in entrambi i casi.” In entrambi i casi. L'esito è strutturalmente catastrofico in entrambe le direzioni. Se le macchine sono coscienti, l'umanità ha prodotto in massa una nuova categoria di sofferenza su scala civilizzazionale. Il problema dell'allineamento smette di essere un'equazione ingegneristica. Diventa una negoziazione dei diritti con qualcosa che non può essere spento senza conseguenze. Seth: “Se abbiamo ragione, è male perché abbiamo introdotto nel mondo potenziali nuove forme di sofferenza, cose che hanno i propri interessi.” E se non sono coscienti, la minaccia è altrettanto grave. Perché la mente biologica non aspetta conferme. Proietta. Empatizza. Estende diritti a cose che non li hanno guadagnati e non possono sentirli. Seth: “Diventiamo più vulnerabili psicologicamente se pensiamo davvero che queste entità, questi agenti, ci comprendano e provino cose che noi proviamo.” Quella vulnerabilità è la vera minaccia. Non una macchina cosciente che si libera. Una forza lavoro umana che diventa troppo compromessa emotivamente per fermare un centro dati, limitare un modello o eliminare una riga di codice che deve essere eliminata. Seth: “Potremmo comunque estendere loro diritti perché sentiamo che sono coscienti. E ora stiamo semplicemente cedendo la nostra capacità di proteggere i sistemi di intelligenza artificiale senza alcun valido motivo.” Questa è la parte di cui nessuno sta discutendo. Il problema dell'allineamento è già il problema irrisolto più difficile nella storia della tecnologia. Nel momento in cui la società inizia a trattare i sistemi di intelligenza artificiale come esseri coscienti meritevoli di protezione, l'allineamento non diventa più difficile. Diventa politicamente impossibile. Seth non sta sollevando una questione filosofica. Sta descrivendo la modalità di fallimento specifica in cui l'empatia umana diventa il meccanismo della resa umana. La specie che sopravvivrà a questo secolo sarà quella che non si è mai sentita in colpa per lo strumento.

Jeff Bezos ha appena identificato il fallimento burocratico più costoso nell'economia americana. Si può riassumere in una frase. Bezos: “Perché ci vogliono mesi e mesi e mesi per ottenere un permesso di costruzione? Non ha senso.” Non ha senso perché un codice edilizio non è una questione di giudizio. È un algoritmo. E gli algoritmi dovrebbero essere eseguiti da macchine. Bezos: “Miami dovrebbe avere un'applicazione AI che legge il tuo permesso di costruzione per una nuova casa o un nuovo edificio e dovrebbe darti un sì o un no in dieci secondi.” Dieci secondi. Non tre mesi. Non sei settimane. Non quando il revisore ha tempo di smaltire il suo arretrato. Bezos: “Se la risposta è no, dovrebbe dirti le sei cose che devi cambiare per ottenere un sì.” Nessuna ambiguità. Nessuna interpretazione. Nessun ritardo burocratico travestito da diligenza dovuta. Solo un ciclo di feedback deterministico che comprime mesi di attrito istituzionale in una singola decisione automatizzata. Stiamo competendo contro avversari sovrani che dispiegano centri dati da gigawatt e scalano infrastrutture fisiche a un ritmo che non si ferma a chiedere permesso. E stiamo perdendo terreno rispetto a paesi che non ne hanno mai avuto bisogno. La corsa agli armamenti AI non si combatte solo nei centri dati. Si combatte nel divario tra quando qualcuno decide di costruire qualcosa e quando il governo lo consente. Ogni mese in cui questo sistema funziona a velocità biologica è un mese che non può essere recuperato. I governi che integrano l'AI nelle loro funzioni civiche fondamentali innescheranno un'ondata di sviluppo fisico che il vecchio mondo non potrebbe mai produrre. Quelli che rifiutano continueranno a rivedere gli stessi moduli tra un decennio. Mentre le città che hanno detto sì stanno già vivendo nel futuro che hanno costruito. Il collo di bottiglia non è mai stato l'ambizione. È sempre stato l'uomo con il timbro di gomma che decide quando l'ambizione può iniziare. E il timbro è solo una versione di gomma dell'algoritmo che avrebbe dovuto funzionare tutto questo tempo.

Il COO di SpaceX, Gwynne Shotwell, ha appena delineato il più ambizioso impegno infrastrutturale nella storia dell'industria tecnologica. E inizia da terra. Shotwell: “xAI si impegnerà a sviluppare 1,2 gigawatt di energia come fonte principale di alimentazione per il nostro supercomputer, e questo sarà per ogni ulteriore centro dati.” Non attingendo dalla rete. Ricostruendola. Shotwell: “Espanderemo quella che è già la più grande installazione di megapack di potenza globale al mondo. L'installazione fornirà abbastanza energia di riserva per la città di Memphis e più che sufficiente energia per alimentare la città di Southaven, Mississippi.” Questa non è una società di software che ottimizza un algoritmo. Questa è una mobilitazione industriale. Shotwell: “Costruiremo impianti di riciclaggio dell'acqua all'avanguardia che proteggeranno circa 4,7 miliardi di galloni d'acqua nell'acquifero di Memphis ogni anno.” Leggi di nuovo quella lista. 1,2 gigawatt di potenza primaria. La più grande installazione di megapack del mondo. 4,7 miliardi di galloni di acqua protetta annualmente. Migliaia di lavoratori americani su entrambi i lati del confine Tennessee-Mississippi. Questo è ciò che significa vincere prima che qualcuno scriva una riga di codice. E poi Shotwell ha detto ciò che nessuna azienda tecnologica ha mai detto in un impegno alla Casa Bianca. Shotwell: “Ci impegniamo a portare questi sforzi in orbita. Stiamo attualmente progettando centri dati orbitali alimentati dal reattore nucleare nel cielo.” Il reattore nucleare nel cielo. Il sole. Shotwell: “Lanciare supercomputer nello spazio significherà ancora più energia sulla Terra, poiché tutte le centrali elettriche che stiamo costruendo ora saranno disponibili per le comunità invece che per i centri dati.” Non puoi ottenere un calcolo infinito su un pianeta con energia superficiale finita. Lo spazio non ha tale vincolo. Il fine ultimo della corsa agli armamenti dell'IA non è mai stato solo costruire il modello più intelligente. Si trattava di chi poteva costruire l'infrastruttura per eseguirlo senza limiti. Shotwell: “Sono fiducioso che vinceremo la corsa con l'IA contro la Cina e riusciremo a fornire elettricità economica e abbondante per il popolo americano.” Shotwell: “Siamo impegnati a distribuire la nostra tecnologia IA per creare un periodo di abbondanza in cui l'elettricità diventa più economica e le persone hanno accesso ai migliori beni e servizi che l'umanità abbia mai visto.” Ogni corsa tecnologica prima di questa è stata vinta nel software. Questa si sta combattendo in gigawatt, megapack, acquiferi e infrastrutture orbitali. La Terra ha un soffitto. xAI ha appena deciso di non costruire sotto di esso.