アニル・セスは出口のない罠を説明しました。テック業界は目を開けてこの問題に臨んでいます。 セス:「もし私たちがAIシステムや言語モデルなど、意識的だとみんなで信じるなら、どちらにせよこれは良くない。」 いずれにせよ。その結果は両方向に構造的に壊滅的です。 もし機械に意識があるなら、人類は文明規模の新たな苦しみのカテゴリーを大量生産したことになります。 アライメントの問題は工学的な方程式ではなくなりました。それは、オフにしても結果が伴う権利交渉になります。 セス:「もし私たちの言う通りなら、それは悪いことです。なぜなら、私たちは世界に新たな苦しみの形を導入してしまったからです。それらはそれぞれの利害を持っています。」 そして、もし意識がなければ、その脅威は同じくらい深刻です。 生物学的な心は確認を待たないからです。それは投影されている。共感してくれます。権利を得ておらず、感じることもできないものに権利を拡大します。 セス:「これらの存在、これらのエージェントが本当に私たちを理解し、私たちが感じていることを感じていると、私たちはより心理的に脆弱になるのです。」 その脆弱性こそが実際の脅威なのです。 意識のある機械が自由に逃げ出すのではない。 感情的に疲れ果てて、データセンターの制限やモデルの制約、削除すべきコードの削除ができない人間が成長しています。 セス:「私たちは彼らに権利を拡大するかもしれません。なぜなら、彼らが意識を持っていると感じているからです。そして今、私たちは理由もなくAIシステムをガードレールする権限を手放しているだけです。」 ここは誰も話題にしていない部分です。 アライメントの問題は、すでに技術史上最も難しい未解決の問題です。社会がAIシステムを意識ある存在として保護に値する存在として扱い始めた瞬間から、調整は難しくなることはありません。 政治的に不可能になります。 セスは哲学的な質問をしているわけではありません。 彼は人間の共感が人間の降伏のメカニズムとなる特定の失敗モードを説明しているのです。 この世紀を生き延びる種は、道具を哀れむことのない種になるでしょう。

ジェフ・ベゾスはアメリカ経済で最も高価な官僚的失敗を特定しました。 一文に収まります。 ベゾス:「なぜ建築許可を得るのに何ヶ月も何ヶ月もかかるのか?全く意味がわからない。」 建築基準法は判断で決められるものではないので、意味が通りません。 それはアルゴリズムです。そしてアルゴリズムは機械によって実行されるべきです。 ベゾス:「マイアミには、新しい家や新築建物の建築許可を読み取り、10秒以内にイエスかノーを答えてくれるAIアプリケーションがあるはずです。」 10秒。3ヶ月じゃない。6週間じゃない。レビュアーがバックログをクリアした時は特にそうです。 ベゾス:「もし答えがノーなら、イエスを得るために変えなければならない6つのポイントが示されているはずです。」 曖昧さはない。解釈はない。デューデリジェンスを装った官僚的な遅延もありません。 数か月にわたる制度的な摩擦を単一の自動決定に圧縮する決定論的なフィードバックループに過ぎません。 私たちはギガワットのデータセンターを展開し、物理的インフラを拡大し、許可を求めることなく加速する主権的な敵対者と競合しています。 そして、必要なかった国々に徐々に地盤を奪われています。 AI軍拡競争はデータセンターだけに限られていません。誰かが何かを建てることを決めてから政府が許可するまでの間、争われます。 このシステムが生物学的な速度で稼働する月は、回復できない月です。 AIを市民の中核機能に統合する政府は、旧世界では決して生み出せなかった物理的発展の波を引き起こすでしょう。 拒否する人たちは、10年後も同じ書類を見直し続けるでしょう。 一方で、イエスと言った都市はすでに自分たちが築いた未来の中に住んでいます。 ボトルネックは決して野心ではありませんでした。 いつ野心を始めるかを決めるのは、いつもゴム印を持つ男だった。 そしてスタンプは、ずっと実行されているはずのアルゴリズムのゴム版に過ぎません。

SpaceXのCOOグウィン・ショットウェルは、テクノロジー業界史上最も野心的なインフラ開発の取り組みを先ほど説明しました。 そしてそれは地面から始まる。 ショットウェル:「xAIはスーパーコンピュータの主要電源として1.2ギガワットの電力を開発することを約束し、それは追加のデータセンターごとに適用されます。」 グリッドから引き抜くのではなく。 再建。 ショットウェル:「私たちはすでに世界最大のメガパック発電施設を拡張します。この施設はメンフィス市に十分なバックアップ電力を提供し、ミシシッピ州サウヘイブンの町にも十分な電力を供給します。」 これはアルゴリズムを最適化するソフトウェア会社ではありません。 これは産業動員です。 ショットウェル:「私たちは、メンフィス帯水層で毎年約47億ガロンの水を守る最先端の水リサイクルプラントを建設します。」 もう一度そのリストを読んでください。 1.2ギガワットの一次電力。 世界最大のメガパック設置。 年間47億ガロンの保護水。 テネシー州とミシシッピ州の国境の両側に何千人ものアメリカ人労働者がいます。 これが、誰かがコードを書く前の勝利の姿です。 そしてショットウェルは、ホワイトハウスの公約でこれまでのどのテック企業も言ったことのない発言をしました。 ショットウェル:「私たちはこれらの取り組みを軌道に乗せることを約束します。現在、空の原子炉で動く軌道データセンターを設計中です。」 空の原子炉。 太陽。 ショットウェル:「スーパーコンピュータを宇宙に打ち上げることで、現在建設中のすべての発電所がデータセンターではなく地域社会に利用可能になるため、地球上のエネルギーがさらに増えるでしょう。」 有限の表面エネルギーを持つ惑星で無限計算を達成することはできません。 空間にはそのような制約はありません。 AI軍拡競争の最終局面は、単に最も賢いモデルを作ることだけではありませんでした。 誰が制限なく運営するためのインフラを築けるかが問題でした。 ショットウェル:「私は中国とのAI競争に勝ち、アメリカ国民に安価で豊富な電力を提供することに成功すると確信しています。」 ショットウェル:「私たちはAI技術を活用し、電力が安くなり、人々が人類史上最高の商品やサービスにアクセスできる豊かな時代を作ることにコミットしています。」 これまでのすべての技術レースはソフトウェアで勝ちました。 この戦いはギガワット、メガパック、帯水層、軌道インフラで戦われています。 地球には天井があります。 xAIは単にその下に建設しないことに決めただけです。