安尼尔·塞思刚刚描述了一个没有出口的陷阱。科技行业正睁着眼睛走进这个陷阱。 塞思：“如果我们集体相信AI系统、语言模型等是有意识的，这无论如何都是坏事。” 无论如何，结果在两个方向上都是结构性灾难。 如果机器是有意识的，人类就大规模地制造了一种新的痛苦类别，影响到整个文明。 对齐问题不再是一个工程方程。它变成了与无法在没有后果的情况下关闭的事物进行权利谈判。 塞思：“如果我们是对的，那就糟糕了，因为我们在世界上引入了潜在的新形式的痛苦，拥有自己利益的事物。” 而如果它们没有意识，威胁同样严重。 因为生物大脑不会等待确认。它会投射。它会共情。它会将权利扩展给那些没有获得权利且无法感受权利的事物。 塞思：“如果我们真的认为这些实体、这些代理人理解我们并感受到我们所感受到的东西，我们就会变得更加心理脆弱。” 这种脆弱性才是真正的威胁。 不是一个有意识的机器挣脱束缚。 而是一个人类劳动力变得过于情感脆弱，以至于无法关闭数据中心、限制模型或删除需要删除的代码行。 塞思：“我们可能仍然会因为觉得它们是有意识的而赋予它们权利。而现在我们只是无缘无故地放弃了保护AI系统的能力。” 这是没有人讨论的部分。 对齐问题已经是技术史上最难解决的问题。一旦社会开始将AI系统视为值得保护的有意识生物，对齐问题就不会变得更难。 它变得在政治上不可能。 塞思并不是在提出一个哲学问题。 他在描述一种特定的失败模式，其中人类的同情心成为人类投降的机制。 在这个世纪生存下来的物种将是那个从未对工具感到抱歉的物种。

杰夫·贝索斯刚刚指出了美国经济中最昂贵的官僚失败。 这可以用一句话来概括。 贝索斯：“为什么获得建筑许可证要花费几个月的时间？这没有任何意义。” 这没有任何意义，因为建筑规范不是一个判断标准。 它是一个算法。算法应该由机器执行。 贝索斯：“迈阿密应该有一个AI应用程序，可以读取你新房子或新建筑的建筑许可证，并在十秒钟内给你一个是或否的答案。” 十秒钟。不是三个月。不是六周。不是审查员清理他们的积压时。 贝索斯：“如果答案是否定的，它应该告诉你需要更改的六个事项，以便获得肯定的答案。” 没有模糊性。没有解释。没有伪装成尽职调查的官僚延误。 只是一个确定性的反馈循环，将数月的制度摩擦压缩成一个自动化的决定。 我们正在与部署千兆瓦数据中心并以不需要请求许可的速度扩展物理基础设施的主权对手竞争。 而我们正在失去对那些从未需要这样做的国家的优势。 AI军备竞赛不仅在数据中心进行。它在于当某人决定建造某物与政府允许它之间的差距。 这个系统每个月以生物速度运行的时间都是无法挽回的一个月。 将AI整合到其核心市政职能中的政府将引发一波旧世界无法产生的物理发展。 那些拒绝的政府将在十年后仍在审查相同的表格。 而那些说“是”的城市已经生活在他们所建造的未来中。 瓶颈从来不是雄心。 它始终是那个持有橡皮图章的人，决定何时允许雄心开始。 而这个图章只是一个橡胶版本的算法，应该一直在运行。

SpaceX 首席运营官 Gwynne Shotwell 刚刚概述了科技行业历史上最雄心勃勃的基础设施承诺。 而这一切都从地面开始。 Shotwell：“xAI 将承诺开发 1.2 吉瓦的电力，作为我们超级计算机的主要电源，这也将适用于每个额外的数据中心。” 不从电网获取。 而是重建它。 Shotwell：“我们将扩展目前全球最大的 Megapack 电力安装。该安装将为孟菲斯市提供足够的备用电力，并为密西西比州的南海文镇提供足够的能源。” 这不是一家优化算法的软件公司。 这是一次工业动员。 Shotwell：“我们将建设最先进的水回收厂，每年将保护大约 47 亿加仑的水在孟菲斯含水层中。” 再读一遍这个清单。 1.2 吉瓦的主要电力。 世界上最大的 Megapack 安装。 每年保护 47 亿加仑的水。 成千上万的美国工人在田纳西州和密西西比州的边界两侧。 这就是在任何人写下代码之前胜利的样子。 然后 Shotwell 说出了任何科技公司在白宫承诺中从未说过的话。 Shotwell：“我们承诺将这些努力带入轨道。我们目前正在设计由天空中的核反应堆供电的轨道数据中心。” 天空中的核反应堆。 太阳。 Shotwell：“将超级计算机发射到太空将意味着地球上会有更多的能源，因为我们现在正在建设的所有电厂将可供社区使用，而不是数据中心。” 在一个有限表面能量的星球上，你无法实现无限计算。 太空没有这样的限制。 AI 军备竞赛的最终目标从来不仅仅是构建最聪明的模型。 而是看谁能建立无限制运行它的基础设施。 Shotwell：“我相信我们将在与中国的 AI 竞赛中获胜，并成功为美国人民提供廉价、丰富的电力。” Shotwell：“我们致力于部署我们的 AI 技术，创造一个电力变得更便宜的丰盈时代，人们可以获得人类历史上最好的商品和服务。” 在此之前的每一场科技竞赛都是在软件中获胜的。 这一场是在吉瓦、Megapack、含水层和轨道基础设施中进行的。 地球有一个上限。 xAI 刚刚决定不在其下建设。