Anil Seth çıkışı olmayan bir tuzak anlattı. Teknoloji sektörü bu işe gözleri açık giriyor. Seth: "Eğer topluca yapay zeka sistemlerinin, dil modellerinin ve her şeyin bilinçli olduğuna inanıyorsak, bu her iki durumda da kötü." Her halükarda. Sonuç her iki yönde de yapısal olarak felaket boyutludur. Eğer makineler bilinçliyse, insanlık medeniyet ölçekinde yeni bir acı kategorisini seri olarak üretmiştir. Hizalama problemi artık bir mühendislik denklemi olmaktan çıkıyor. Bu, sonuçsuz kapatılamayan bir hak müzakeresi haline gelir. Seth: "Eğer haklıysak, bu kötü çünkü dünyaya potansiyel yeni acı türleri, kendi çıkarları olan şeyler getirdik." Ve eğer bilinçsiz olsalar da, tehdit en az onun kadar şiddetlidir. Çünkü biyolojik zihin onay beklemez. Yansıtıyor. Empati kurar. Haklarını hak etmemiş ve hissedemeyen şeylere de ekler. Seth: "Bu varlıkların, bu ajanların bizi anladığını ve hissettiğimizi hissettiğini gerçekten düşünürsek, psikolojik olarak daha savunmasız oluruz." O savunmasızlık gerçek tehdit. Bilinçli bir makine kurtulmak değil. İnsan iş gücü bir veri merkezini kısıtlamaya, modeli kısıtlamaya veya silinmesi gereken bir kod satırını silmeye çok duygusal olarak zayıflıyor. Seth: "Onların bilinçli olduğunu düşündüğümüz için haklarını genişletebiliriz. Ve şimdi yapay zeka sistemlerini koruma yeteneğimizi hiçbir sebep olmadan veriyoruz." Bu, kimsenin tartışmadığı kısım. Hizalama sorunu, teknoloji tarihinin en zor çözülmemiş sorunu olarak ortaya çıkıyor. Toplum yapay zeka sistemlerini korumayı hak eden bilinçli varlıklar olarak görmeye başladığı anda, uyum daha da zorlaşmıyor. Bu siyasi olarak imkansız hale gelir. Seth felsefi bir soru gündeme getirmiyor. İnsan empatinin insan teslimiyetinin mekanizması haline geldiği özel başarısızlık modunu anlatıyor. Bu yüzyılda hayatta kalan tür, bu alete asla acımayan türler olacak.

Jeff Bezos, Amerikan ekonomisindeki en pahalı bürokratik başarısızlığı az önce tespit etti. Tek bir cümleye sığıyor. Bezos: "Neden bir inşaat izni almak aylarca, aylarca, aylarca sürüyor? Hiçbir mantıklı değil." Hiçbir mantıklı değil çünkü bir yapı yönetmeliği bir yargı kararı değildir. Bu bir algoritmadır. Ve algoritmalar makineler tarafından yürütülmelidir. Bezos: "Miami'de, yeni bir ev veya yeni bina için inşaat izninizi okuyan bir yapay zeka uygulaması olmalı ve on saniyede size evet ya da hayır vermelidir." On saniye. Üç ay değil. Altı hafta değil. İnceleyen birikim biriktirdiği zaman değil. Bezos: "Eğer cevap hayırsa, evet almak için değiştirmen gereken altı şeyi söylemeli." Hiçbir belirsizlik yok. Yorum yok. Bürokratik gecikme gereksiz özen gösterisi olarak sunulmazdı. Sadece aylarca süren kurumsal sürtüşmeleri tek bir otomatik karara sıkıştıran deterministik bir geri bildirim döngüsü. Egemen rakiplerle rekabet ediyoruz; gigawatt veri merkezleri kuran ve fiziksel altyapıyı öyle bir hızda ölçeklendiriyor ki, izin istemek için durmuyor. Ve hiç ihtiyaç duymamış ülkelere karşı yer kaybediyoruz. Yapay zeka silahlanma yarışı sadece veri merkezlerinde yaşanmıyor. Bir kişinin bir şey inşa etmeye karar verdiği zaman ile hükümetin izin verdiği arasındaki boşlukta mücadele edilir. Bu sistemin biyolojik hızda çalıştığı her ay, geri dönememeyen bir aydır. Yapay zekayı temel sivil işlevlerine entegre eden hükümetler, eski dünyanın asla üretemeyeceği bir fiziksel gelişim dalgasını tetikleyecek. Reddedenler on yıl sonra da aynı formları incelemeye devam edecek. Evet diyen şehirler ise zaten inşa ettikleri geleceğin içinde yaşıyor. Darboğaz asla hırs değildi. Hırsın ne zaman başlayacağına her zaman karar veren adam kararı verirdi. Ve damga, algoritmanın tüm bu süre boyunca çalışması gereken kauçuk versiyonu.

SpaceX COO'su Gwynne Shotwell, teknoloji endüstrisinin tarihindeki en iddialı altyapı taahhüdünü az önce açıkladı. Ve her şey yerden başlıyor. Shotwell: "xAI, süper bilgisayarımızın ana güç kaynağı olarak 1.2 gigawatt güç geliştirmeyi taahhüt edecek ve bu da her ek veri merkezi için geçerli olacak." Şebekeden çizim yapmıyorum. Yeniden inşa etmek. Shotwell: "Dünyanın en büyük küresel megapaket güç tesisini genişleteceğiz. Bu tesis, Memphis şehrine yeterli yedek güç sağlayacak ve Mississippi, Southaven kasabasını beslemek için fazlasıyla yeterli enerji sağlayacaktır." Bu, algoritmayı optimize eden bir yazılım şirketi değildir. Bu bir endüstriyel seferberliktir. Shotwell: "Memphis akiferinde her yıl yaklaşık 4,7 milyar galon suyu koruyacak son teknoloji su geri dönüşüm tesisleri inşa edeceğiz." O listeyi tekrar okuyun. 1.2 gigawatt birincil güç. Dünyanın en büyük megapack kurulumu. Yılda 4,7 milyar galon korumalı su. Tennessee-Mississippi sınırının her iki tarafında binlerce Amerikalı işçi. Kazanmak böyle olur, kimse kod satırı yazmadan önce böyle olur. Sonra Shotwell, hiçbir teknoloji şirketinin Beyaz Saray taahhüdünde söylemediği şeyi söyledi. Shotwell: "Bu çabaları yörüngeye taşımaya söz veriyoruz. Şu anda gökyüzündeki nükleer reaktörle çalışan yörüngesel veri merkezleri tasarlıyoruz." Gökyüzündeki nükleer reaktörü. Güneş. Shotwell: "Süper bilgisayarları uzaya fırlatmak, Dünya'da daha fazla enerji anlamına gelecek, çünkü şu anda inşa ettiğimiz tüm enerji santralleri, veri merkezleri yerine topluluklara sunulacak." Sonlu yüzey enerjisine sahip bir gezegende sonsuz hesaplama elde edemezsiniz. Uzayın böyle bir kısıtlaması yoktur. Yapay zeka silahlanma yarışının son amacı asla sadece en akıllı modeli inşa etmekle ilgili değildi. Sınırsız olarak işletmek için altyapıyı kim inşa edebileceğiyle ilgiliydi. Shotwell: "Çin ile yapay zeka yarışını kazanacağımıza ve Amerikan halkına uygun fiyatlı, bol elektrik sağlamada başarılı olacağımıza eminim." Shotwell: "Elektriğin ucuzlaştığı ve insanların insanlığın gördüğü en iyi mal ve hizmetlere erişebileceği bir bolluk dönemi yaratmak için yapay zeka teknolojimizi uygulamaya kararlıyız." Bundan önceki tüm teknoloji yarışları yazılımda kazanılmıştı. Bu mücadele gigawatt, megapack, akiferler ve yörünge altyapısında mücadele ediliyor. Dünya'nın bir tavanı var. xAI sadece onun altında inşa etmemeye karar verdi.