Anil Seth 剛剛描述了一個沒有出口的陷阱。科技產業正睜著眼睛走進去。 Seth： “如果我們集體相信 AI 系統、語言模型和其他東西是有意識的，那麼這無論如何都是不好的。” 無論如何，結果在兩個方向上都是結構性災難。 如果機器是有意識的，人類就大規模生產了一種新的痛苦類別，這是文明規模的。 對齊問題不再是一個工程方程式。它變成了一種與無法關閉的事物進行權利談判的過程，這樣做會有後果。 Seth： “如果我們是對的，那就糟糕了，因為我們將潛在的新形式的痛苦引入了世界，這些東西有自己的利益。” 而如果它們不是有意識的，威脅同樣嚴重。 因為生物心智不會等待確認。它會投射。它會共情。它會將權利延伸給那些未曾獲得權利且無法感受它們的事物。 Seth： “如果我們真的認為這些實體、這些代理人理解我們並感受到我們所感受到的東西，我們就會變得更具心理脆弱性。” 這種脆弱性才是真正的威脅。 不是一台意識機器的逃脫。 而是一個人類工作力因情感過於脆弱而無法限制數據中心、約束模型或刪除需要刪除的代碼行。 Seth： “我們可能仍然會因為感覺它們是有意識的而延伸它們的權利。現在我們只是無故放棄了保護 AI 系統的能力。” 這是沒有人在討論的部分。 對齊問題已經是科技史上最難解決的問題。一旦社會開始將 AI 系統視為值得保護的有意識存在，對齊問題不會變得更難。 它變得在政治上不可能。 Seth 並不是在提出一個哲學問題。 他在描述一種具體的失敗模式，即人類的同情心成為人類投降的機制。 在這個世紀生存下來的物種將是那個從未對工具感到抱歉的物種。

傑夫·貝佐斯剛剛指出美國經濟中最昂貴的官僚失敗。 這可以用一句話來概括。 貝佐斯： “為什麼獲得建築許可證需要幾個月的時間？這毫無道理。” 這毫無道理，因為建築法規不是一種判斷。 它是一個算法。而算法應該由機器執行。 貝佐斯： “邁阿密應該有一個AI應用程序，可以讀取你新房子或新建築的建築許可證，並在十秒內給你一個是或否的答案。” 十秒。不是三個月。不是六週。不是等審核人員清理他們的積壓。 貝佐斯： “如果答案是否，它應該告訴你六個你必須改變的地方，以獲得肯定的答案。” 沒有模糊性。沒有解釋。沒有偽裝成盡職調查的官僚延遲。 只有一個確定性的反饋循環，將幾個月的制度摩擦壓縮成一個自動化的決策。 我們正在與部署千兆瓦數據中心並以不需要請求許可的速度擴展物理基礎設施的主權對手競爭。 而我們正在失去對那些從未需要這樣做的國家的領先地位。 AI軍備競賽不僅僅是在數據中心中進行。它是在某人決定建造某物和政府允許之間的差距中進行的。 這個系統每個月以生物速度運行的時間都是無法挽回的。 將AI整合到其核心公民功能中的政府將觸發一波舊世界無法產生的實體發展。 那些拒絕的政府十年後仍然會在審核相同的表格。 而那些說“是”的城市已經生活在他們所建造的未來中。 瓶頸從來不是雄心。 它始終是那個持有橡膠印章的人，決定何時允許雄心開始。 而這個印章只是一個應該一直在運行的算法的橡膠版本。

SpaceX COO Gwynne Shotwell 剛剛概述了科技行業歷史上最雄心勃勃的基礎設施承諾。 而這一切都從地面開始。 Shotwell： “xAI 將承諾開發 1.2 吉瓦的電力作為我們超級計算機的主要電源，這也將適用於每個額外的數據中心。” 不從電網抽取。 而是重建它。 Shotwell： “我們將擴大目前全球最大的 Megapack 電力安裝。該安裝將為孟菲斯市提供足夠的備用電力，並為密西西比州的南海文鎮提供足夠的能源。” 這不是一家優化算法的軟件公司。 這是一場工業動員。 Shotwell： “我們將建造最先進的水回收廠，每年將保護約 47 億加侖的水源於孟菲斯含水層。” 再讀一遍那個清單。 1.2 吉瓦的主要電力。 世界上最大的 Megapack 安裝。 每年保護 47 億加侖的水。 數千名美國工人在田納西州和密西西比州的邊界兩側工作。 這就是在任何人寫下代碼之前，勝利的樣子。 然後 Shotwell 說出了任何科技公司在白宮承諾中從未說過的話。 Shotwell： “我們承諾將這些努力帶入軌道。我們目前正在設計由天空中的核反應堆供電的軌道數據中心。” 天空中的核反應堆。 太陽。 Shotwell： “將超級計算機發射到太空將意味著地球上會有更多的能源，因為我們現在正在建造的所有電廠將可供社區使用，而不是數據中心。” 在一個有限的表面能量的星球上，你無法實現無限計算。 太空沒有這樣的限制。 AI 軍備競賽的終局從來不僅僅是關於建立最聰明的模型。 而是關於誰能建立無限制運行它的基礎設施。 Shotwell： “我相信我們將在與中國的 AI 競賽中獲勝，並成功為美國人民提供廉價、豐富的電力。” Shotwell： “我們致力於部署我們的 AI 技術，創造一個豐富的時期，讓電力變得更便宜，人們能夠獲得人類有史以來最好的商品和服務。” 在這之前的每一場科技競賽都是在軟件中獲勝的。 這一場則是在吉瓦、Megapack、含水層和軌道基礎設施中進行的。 地球有一個上限。 xAI 剛剛決定不在其下建設。