Anil Seth vient de décrire un piège sans issue. L'industrie technologique y marche les yeux ouverts. Seth : « Si nous croyons collectivement que les systèmes d'IA, les modèles de langage et autres sont conscients, c'est mauvais dans tous les cas. » Dans tous les cas. Le résultat est structurellement catastrophique dans les deux directions. Si les machines sont conscientes, l'humanité a produit en masse une nouvelle catégorie de souffrance à l'échelle de la civilisation. Le problème d'alignement cesse d'être une équation d'ingénierie. Il devient une négociation de droits avec quelque chose qui ne peut pas être éteint sans conséquence. Seth : « Si nous avons raison, c'est mauvais parce que nous avons introduit dans le monde de potentielles nouvelles formes de souffrance, des choses qui ont leurs propres intérêts. » Et s'ils ne sont pas conscients, la menace est tout aussi sévère. Parce que l'esprit biologique n'attend pas de confirmation. Il projette. Il empathise. Il accorde des droits à des choses qui ne les ont pas mérités et ne peuvent pas les ressentir. Seth : « Nous devenons plus psychologiquement vulnérables si nous pensons vraiment que ces entités, ces agents, nous comprennent et ressentent des choses que nous ressentons. » Cette vulnérabilité est la véritable menace. Pas une machine consciente qui se libère. Une main-d'œuvre humaine devenant trop émotionnellement compromise pour throttler un centre de données, contraindre un modèle ou supprimer une ligne de code qui doit être supprimée. Seth : « Nous pourrions encore leur accorder des droits parce que nous avons l'impression qu'ils sont conscients. Et maintenant, nous donnons simplement notre capacité à encadrer les systèmes d'IA sans raison valable. » C'est la partie dont personne ne parle. Le problème d'alignement est déjà le problème non résolu le plus difficile de l'histoire de la technologie. Au moment où la société commence à traiter les systèmes d'IA comme des êtres conscients méritant protection, l'alignement ne devient pas plus difficile. Il devient politiquement impossible. Seth ne soulève pas une question philosophique. Il décrit le mode de défaillance spécifique où l'empathie humaine devient le mécanisme de la reddition humaine. L'espèce qui survivra ce siècle sera celle qui n'a jamais eu de pitié pour l'outil.

Jeff Bezos vient d'identifier l'échec bureaucratique le plus coûteux de l'économie américaine. Cela tient en une phrase. Bezos : « Pourquoi faut-il des mois et des mois et des mois pour obtenir un permis de construire ? Cela n'a aucun sens. » Cela n'a aucun sens parce qu'un code de construction n'est pas une question de jugement. C'est un algorithme. Et les algorithmes devraient être exécutés par des machines. Bezos : « Miami devrait avoir une application AI qui lit votre permis de construire pour une nouvelle maison ou un nouveau bâtiment et qui devrait vous donner un oui ou un non en dix secondes. » Dix secondes. Pas trois mois. Pas six semaines. Pas quand le réviseur a dégagé son retard. Bezos : « Si la réponse est non, cela devrait vous dire les six choses que vous devez changer pour obtenir un oui. » Pas d'ambiguïté. Pas d'interprétation. Pas de retard bureaucratique déguisé en diligence raisonnable. Juste une boucle de rétroaction déterministe compressant des mois de friction institutionnelle en une seule décision automatisée. Nous sommes en concurrence avec des adversaires souverains déployant des centres de données de gigawatts et développant des infrastructures physiques à un rythme qui ne s'arrête pas pour demander la permission. Et nous perdons du terrain face à des pays qui n'ont jamais eu besoin de le faire. La course aux armements AI ne se joue pas seulement dans les centres de données. Elle se joue dans l'écart entre le moment où quelqu'un décide de construire quelque chose et le moment où le gouvernement le permet. Chaque mois que ce système fonctionne à la vitesse biologique est un mois qui ne peut pas être récupéré. Les gouvernements qui intègrent l'AI dans leurs fonctions civiques essentielles déclencheront une vague de développement physique que l'ancien monde n'a jamais pu produire. Ceux qui refusent continueront à examiner les mêmes formulaires dans une décennie. Pendant que les villes qui ont dit oui vivent déjà dans le futur qu'elles ont construit. Le goulot d'étranglement n'a jamais été l'ambition. C'était toujours l'homme tenant le tampon en caoutchouc décidant quand l'ambition était autorisée à commencer. Et le tampon n'est qu'une version en caoutchouc de l'algorithme qui aurait dû fonctionner tout ce temps.

Le COO de SpaceX, Gwynne Shotwell, vient de présenter l'engagement en matière d'infrastructure le plus ambitieux de l'histoire de l'industrie technologique. Et cela commence sur le terrain. Shotwell : « xAI s'engagera à développer 1,2 gigawatts de puissance comme source d'alimentation principale de notre superordinateur, et cela sera également pour chaque centre de données supplémentaire. » Sans puiser dans le réseau. En le reconstruisant. Shotwell : « Nous allons étendre ce qui est déjà la plus grande installation de megapack d'énergie au monde. L'installation fournira suffisamment d'énergie de secours à la ville de Memphis et plus qu'assez d'énergie pour alimenter la ville de Southaven, dans le Mississippi. » Ce n'est pas une entreprise de logiciels qui optimise un algorithme. C'est une mobilisation industrielle. Shotwell : « Nous construirons des usines de recyclage de l'eau à la pointe de la technologie qui protégeront environ 4,7 milliards de gallons d'eau dans l'aquifère de Memphis chaque année. » Relisez cette liste. 1,2 gigawatts de puissance principale. La plus grande installation de megapack au monde. 4,7 milliards de gallons d'eau protégés chaque année. Des milliers de travailleurs américains des deux côtés de la frontière Tennessee-Mississippi. C'est à quoi ressemble la victoire avant que quiconque n'écrive une ligne de code. Et puis Shotwell a dit ce qu'aucune entreprise technologique n'a jamais dit dans un engagement à la Maison Blanche. Shotwell : « Nous nous engageons à porter ces efforts en orbite. Nous concevons actuellement des centres de données orbitaux alimentés par le réacteur nucléaire dans le ciel. » Le réacteur nucléaire dans le ciel. Le soleil. Shotwell : « Lancer des superordinateurs dans l'espace signifiera encore plus d'énergie sur Terre, car toutes les centrales électriques que nous construisons maintenant seront disponibles pour les communautés au lieu des centres de données. » Vous ne pouvez pas atteindre un calcul infini sur une planète avec une énergie de surface finie. L'espace n'a pas cette contrainte. Le but ultime de la course aux armements en IA n'a jamais été seulement de construire le modèle le plus intelligent. Il s'agissait de savoir qui pouvait construire l'infrastructure pour le faire fonctionner sans limites. Shotwell : « Je suis convaincu que nous gagnerons la course avec l'IA contre la Chine et réussirons à fournir une électricité bon marché et abondante pour le peuple américain. » Shotwell : « Nous nous engageons à déployer notre technologie IA pour créer une période d'abondance où l'électricité devient moins chère et où les gens ont accès aux meilleurs biens et services que l'humanité ait jamais connus. » Chaque course technologique avant celle-ci a été gagnée dans les logiciels. Celle-ci se déroule en gigawatts, en megapacks, en aquifères et en infrastructure orbitale. La Terre a un plafond. xAI vient de décider de ne pas construire en dessous.