Anil Seth baru saja menggambarkan jebakan tanpa jalan keluar. Industri teknologi berjalan ke dalamnya dengan mata terbuka. Seth: "Jika kita secara kolektif percaya bahwa sistem AI, model bahasa, dan apa pun sadar, ini buruk." Apa pun itu. Hasilnya secara struktural bencana di kedua arah. Jika mesin-mesin itu sadar, umat manusia telah memproduksi secara massal kategori penderitaan baru dalam skala peradaban. Masalah penyelarasan berhenti menjadi persamaan teknik. Ini menjadi negosiasi hak dengan sesuatu yang tidak dapat dimatikan tanpa konsekuensi. Seth: "Jika kita benar, itu buruk karena kita telah memperkenalkan ke dunia bentuk-bentuk penderitaan baru yang potensial, hal-hal yang memiliki kepentingan mereka sendiri." Dan jika mereka tidak sadar, ancamannya sama parahnya. Karena pikiran biologis tidak menunggu konfirmasi. Ini memproyeksikan. Itu berempati. Ini memperluas hak untuk hal-hal yang belum mendapatkannya dan tidak dapat merasakannya. Seth: "Kita menjadi lebih rentan secara psikologis jika kita benar-benar berpikir bahwa entitas-entitas ini, agen-agen ini, memahami kita dan merasakan hal-hal yang kita rasakan." Kerentanan itu adalah ancaman yang sebenarnya. Bukan mesin sadar yang membebaskan diri. Tenaga kerja manusia yang tumbuh terlalu terganggu secara emosional untuk membatasi pusat data, membatasi model, atau menghapus baris kode yang perlu dihapus. Seth: "Kami mungkin masih memberikan hak mereka karena kami merasa bahwa mereka sadar. Dan sekarang kami hanya memberikan kemampuan kami untuk menjaga sistem AI tanpa alasan yang jelas." Ini adalah bagian yang tidak didiskusikan oleh siapa pun. Masalah penyelarasan sudah menjadi masalah tersulit yang belum terpecahkan dalam sejarah teknologi. Saat masyarakat mulai memperlakukan sistem AI sebagai makhluk sadar yang layak mendapatkan perlindungan, penyelarasan tidak menjadi lebih sulit. Itu menjadi mustahil secara politis. Seth tidak mengajukan pertanyaan filosofis. Dia menggambarkan mode kegagalan spesifik di mana empati manusia menjadi mekanisme penyerahan manusia. Spesies yang bertahan abad ini akan menjadi spesies yang tidak pernah merasa kasihan pada alat tersebut.

Jeff Bezos baru saja mengidentifikasi kegagalan birokrasi paling mahal dalam ekonomi Amerika. Itu cocok dalam satu kalimat. Bezos: "Mengapa butuh waktu berbulan-bulan dan berbulan-bulan untuk mendapatkan izin mendirikan bangunan? Itu tidak masuk akal." Itu tidak masuk akal karena kode bangunan bukanlah panggilan penilaian. Ini adalah algoritma. Dan algoritma harus dijalankan oleh mesin. Bezos: "Miami harus memiliki aplikasi AI yang membaca izin bangunan Anda untuk rumah baru atau bangunan baru dan itu akan memberi Anda ya atau tidak dalam sepuluh detik." Sepuluh detik. Bukan tiga bulan. Bukan enam minggu. Tidak setiap kali peninjau menghapus backlog mereka. Bezos: "Jika jawabannya tidak, itu harus memberi tahu Anda enam hal yang harus Anda ubah untuk mendapatkan ya." Tidak ada ambiguitas. Tidak ada interpretasi. Tidak ada penundaan birokrasi yang dibalut sebagai uji tuntas. Hanya lingkaran umpan balik deterministik yang mengompresi gesekan kelembagaan selama berbulan-bulan menjadi satu keputusan otomatis. Kami bersaing dengan musuh berdaulat yang menyebarkan pusat data gigawatt dan menskalakan infrastruktur fisik dengan kecepatan yang tidak berhenti untuk meminta izin. Dan kita kehilangan pijakan dari negara-negara yang tidak pernah membutuhkannya. Perlombaan senjata AI tidak hanya diperjuangkan di pusat data. Itu diperjuangkan dalam celah antara ketika seseorang memutuskan untuk membangun sesuatu dan ketika pemerintah mengizinkannya. Setiap bulan sistem ini berjalan dengan kecepatan biologis adalah bulan yang tidak dapat dipulihkan. Pemerintah yang mengintegrasikan AI ke dalam fungsi sipil inti mereka akan memicu gelombang perkembangan fisik yang tidak pernah bisa dihasilkan oleh dunia lama. Orang-orang yang menolak masih akan meninjau formulir yang sama satu dekade dari sekarang. Sementara kota-kota yang mengatakan ya sudah hidup di masa depan yang mereka bangun. Kemacetan tidak pernah menjadi ambisi. Itu selalu orang yang memegang stempel karet yang memutuskan kapan ambisi diizinkan untuk dimulai. Dan stempel hanyalah versi karet dari algoritme yang seharusnya berjalan selama ini.

COO SpaceX Gwynne Shotwell baru saja menguraikan komitmen infrastruktur paling ambisius dalam sejarah industri teknologi. Dan itu dimulai di tanah. Shotwell: "xAI akan berkomitmen untuk mengembangkan daya 1,2 gigawatt sebagai sumber daya utama superkomputer kami, dan itu juga untuk setiap pusat data tambahan." Tidak menggambar dari kisi. Membangunnya kembali. Shotwell: "Kami akan memperluas apa yang sudah menjadi instalasi listrik megapack global terbesar di dunia. Instalasi ini akan memberikan daya cadangan yang cukup ke kota Memphis dan energi yang lebih dari cukup untuk memberi daya pada kota Southaven, Mississippi." Ini bukan perusahaan perangkat lunak yang mengoptimalkan algoritme. Ini adalah mobilisasi industri. Shotwell: "Kami akan membangun pabrik daur ulang air canggih yang akan melindungi sekitar 4,7 miliar galon air di akuifer Memphis setiap tahun." Baca daftar itu lagi. 1,2 gigawatt daya primer. Instalasi megapack terbesar di dunia. 4,7 miliar galon air yang dilindungi setiap tahun. Ribuan pekerja Amerika di kedua sisi perbatasan Tennessee-Mississippi. Beginilah tampilan kemenangan sebelum ada yang menulis baris kode. Dan kemudian Shotwell mengatakan apa yang tidak pernah dikatakan oleh perusahaan teknologi dalam komitmen Gedung Putih. Shotwell: "Kami berkomitmen untuk membawa upaya ini ke orbit. Saat ini kami sedang merancang pusat data orbital yang ditenagai oleh reaktor nuklir di langit." Reaktor nuklir di langit. Matahari. Shotwell: "Meluncurkan superkomputer ke luar angkasa akan berarti lebih banyak energi di Bumi, karena semua pembangkit listrik yang kami bangun sekarang akan tersedia untuk masyarakat, bukan pusat data." Anda tidak dapat mencapai komputasi tak terbatas di planet dengan energi permukaan terbatas. Ruang angkasa tidak memiliki batasan seperti itu. Akhir dari perlombaan senjata AI tidak pernah hanya tentang membangun model tercerdas. Ini tentang siapa yang bisa membangun infrastruktur untuk menjalankannya tanpa batas. Shotwell: "Saya yakin bahwa kita akan memenangkan perlombaan dengan AI dengan China dan berhasil menghadirkan listrik yang murah dan melimpah bagi rakyat Amerika." Shotwell: "Kami berkomitmen untuk menerapkan teknologi AI kami untuk menciptakan periode kelimpahan di mana listrik menjadi lebih murah dan orang memiliki akses ke barang dan jasa terbaik yang pernah dilihat umat manusia." Setiap perlombaan teknologi sebelum ini dimenangkan dalam perangkat lunak. Yang ini sedang diperjuangkan dalam gigawatt, megapack, akuifer, dan infrastruktur orbit. Bumi memiliki langit-langit. xAI hanya memutuskan untuk tidak membangun di bawahnya.