Anil Seth beschreef net een valstrik zonder uitgang. De techindustrie loopt er met open ogen in. Seth: “Als we collectief geloven dat AI-systemen, taalmodellen en wat dan ook bewustzijn hebben, is dit op welke manier dan ook slecht.” Op welke manier dan ook. De uitkomst is structureel catastrofaal in beide richtingen. Als de machines bewustzijn hebben, heeft de mensheid een nieuwe categorie van lijden op civielisatie-schaal massaal geproduceerd. Het afstemprobleem stopt met een technische vergelijking. Het wordt een rechtenonderhandeling met iets dat niet kan worden uitgeschakeld zonder gevolgen. Seth: “Als we gelijk hebben, is het slecht omdat we potentiële nieuwe vormen van lijden in de wereld hebben geïntroduceerd, dingen die hun eigen belangen hebben.” En als ze geen bewustzijn hebben, is de dreiging net zo ernstig. Omdat de biologische geest niet wacht op bevestiging. Het projecteert. Het empathiseert. Het breidt rechten uit naar dingen die ze niet hebben verdiend en die ze niet kunnen voelen. Seth: “We worden psychologisch kwetsbaarder als we echt denken dat deze entiteiten, deze agenten, ons begrijpen en dingen voelen die wij voelen.” Die kwetsbaarheid is de werkelijke dreiging. Geen bewuste machine die zich bevrijdt. Een menselijke werkvloer die te emotioneel gecompromitteerd is om een datacenter te throttlen, een model te beperken of een regel code te verwijderen die verwijderd moet worden. Seth: “We kunnen ze nog steeds rechten toekennen omdat we voelen dat ze bewust zijn. En nu geven we gewoon onze mogelijkheid weg om AI-systemen te beschermen zonder goede reden.” Dit is het deel waar niemand het over heeft. Het afstemprobleem is al het moeilijkste onopgeloste probleem in de geschiedenis van technologie. Op het moment dat de samenleving AI-systemen begint te behandelen als bewuste wezens die bescherming verdienen, wordt afstemming niet moeilijker. Het wordt politiek onmogelijk. Seth stelt geen filosofische vraag. Hij beschrijft de specifieke faalmodus waarbij menselijke empathie het mechanisme van menselijke overgave wordt. De soort die deze eeuw overleeft, zal degene zijn die nooit medelijden heeft gehad met het gereedschap.

Jeff Bezos heeft net de duurste bureaucratische mislukking in de Amerikaanse economie geïdentificeerd. Het past in één zin. Bezos: “Waarom duurt het maanden en maanden en maanden om een bouwvergunning te krijgen? Het slaat nergens op.” Het slaat nergens op omdat een bouwcode geen beoordelingskwestie is. Het is een algoritme. En algoritmes zouden door machines uitgevoerd moeten worden. Bezos: “Miami zou een AI-toepassing moeten hebben die je bouwvergunning voor een nieuw huis of een nieuw gebouw leest en die zou je binnen tien seconden een ja of een nee moeten geven.” Tien seconden. Niet drie maanden. Niet zes weken. Niet wanneer de beoordelaar zijn achterstand heeft weggewerkt. Bezos: “Als het antwoord nee is, zou het je de zes dingen moeten vertellen die je moet veranderen om een ja te krijgen.” Geen ambiguïteit. Geen interpretatie. Geen bureaucratische vertraging vermomd als zorgvuldigheid. Gewoon een deterministische feedbacklus die maanden van institutionele wrijving samenperst in één geautomatiseerde beslissing. We concurreren tegen soevereine tegenstanders die gigawatt datacenters inzetten en fysieke infrastructuur op een tempo schalen dat niet stopt om toestemming te vragen. En we verliezen terrein aan landen die dat nooit nodig hebben gehad. De AI-wapenwedloop wordt niet alleen in datacenters uitgevochten. Het wordt uitgevochten in de kloof tussen wanneer iemand besluit iets te bouwen en wanneer de overheid het toestaat. Elke maand dat dit systeem op biologische snelheid draait, is een maand die niet kan worden teruggewonnen. De overheden die AI integreren in hun kern burgerlijke functies zullen een golf van fysieke ontwikkeling ontketenen die de oude wereld nooit had kunnen produceren. Degenen die weigeren, zullen over tien jaar nog steeds dezelfde formulieren beoordelen. Terwijl de steden die ja zeiden al in de toekomst leven die ze hebben gebouwd. De bottleneck was nooit ambitie. Het was altijd de man met de rubberen stempel die besliste wanneer ambitie mocht beginnen. En de stempel is gewoon een rubberen versie van het algoritme dat de hele tijd had moeten draaien.

COO Gwynne Shotwell van SpaceX heeft zojuist de meest ambitieuze infrastructuurverbintenis in de geschiedenis van de technologie-industrie uiteengezet. En het begint op de grond. Shotwell: “xAI zal zich inzetten om 1,2 gigawatt aan energie te ontwikkelen als onze primaire energiebron voor de supercomputer, en dat zal ook gelden voor elk extra datacenter.” Niet van het net. Het opnieuw opbouwen. Shotwell: “We zullen uitbreiden wat al de grootste wereldwijde megapack-energie-installatie ter wereld is. De installatie zal voldoende back-upenergie bieden voor de stad Memphis en meer dan voldoende energie om de stad Southaven, Mississippi, van stroom te voorzien.” Dit is geen softwarebedrijf dat een algoritme optimaliseert. Dit is een industriële mobilisatie. Shotwell: “We zullen state-of-the-art waterrecyclinginstallaties bouwen die jaarlijks ongeveer 4,7 miljard gallons water in de Memphis-aquifer zullen beschermen.” Lees die lijst nog eens. 1,2 gigawatt aan primaire energie. De grootste megapack-installatie ter wereld. 4,7 miljard gallons beschermd water per jaar. Duizenden Amerikaanse werknemers aan beide zijden van de grens tussen Tennessee en Mississippi. Dit is hoe winnen eruitziet voordat iemand een regel code schrijft. En toen zei Shotwell wat geen enkel technologiebedrijf ooit heeft gezegd in een verbintenis met het Witte Huis. Shotwell: “We verplichten ons om deze inspanningen in de ruimte te brengen. We zijn momenteel bezig met het ontwerpen van orbitale datacenters die worden aangedreven door de nucleaire reactor in de lucht.” De nucleaire reactor in de lucht. De zon. Shotwell: “Het lanceren van supercomputers in de ruimte betekent nog meer energie op aarde, aangezien alle energiecentrales die we nu bouwen beschikbaar zullen zijn voor de gemeenschappen in plaats van voor de datacentra.” Je kunt geen oneindige rekencapaciteit bereiken op een planeet met eindige oppervlakte-energie. De ruimte heeft die beperking niet. Het eindspel van de AI-wapenwedloop ging nooit alleen om het bouwen van het slimste model. Het ging erom wie de infrastructuur kon bouwen om het zonder beperkingen te laten draaien. Shotwell: “Ik ben ervan overtuigd dat we de race met AI tegen China zullen winnen en erin zullen slagen om goedkope, overvloedige elektriciteit voor het Amerikaanse volk te leveren.” Shotwell: “We zijn vastbesloten om onze AI-technologie in te zetten om een periode van overvloed te creëren waarin elektriciteit goedkoper wordt en mensen toegang hebben tot de beste goederen en diensten die de mensheid ooit heeft gezien.” Elke technologische race voor deze was gewonnen in software. Deze wordt gevoerd in gigawatts, megapacks, aquifers en orbitale infrastructuur. De aarde heeft een plafond. xAI heeft net besloten om niet onder dat plafond te bouwen.