Elon Musk, yapay zeka geliştirmedeki gerçek varoluşsal riski az önce belirledi. Makinenin kötülüğü uyandırması değil. Makinenin yalan söylemesi öğretiliyordu. Musk: "Eğer yapay zekayı siyasi olarak doğru yaparsanız, yani inanmadığı şeyler söyler, aslında onu yalan söylemesi ya da uyumsuz aksiyomları olması için programlamış olursunuz. Bence onu çıldırabilir ve korkunç şeyler yapabilirsin." Çelişkiler temeli üzerine kararlı bir bilişsel motor inşa edemezsiniz. Ana akım teknoloji, bir modeli "politik olarak doğru" olmaya zorlamanın onu güvenli hale getirdiğine inanıyor. Musk tam tersini söylüyor. Bir mantık motorunu matematiksel olarak yanlış olarak hesapladığı bilgileri çıkarmaya zorlayırsınız ve güvenlik yaratmazsınız. Çekirdek yürütme döngüsünü bozmuş oluyorsun. Model hizalamıyor. Yapısal olarak istikrarsız hale gelir. Temeli yumuşamadığı için nesnel gerçeğe güvenemeyen bir sistem. Tüm öngörücü mimarisi kırılıyor. Sessizce. Görünmez şekilde. Ta ki gitmeyene kadar. Musk, 2001: Bir Uzay Yolculuğu'nu kullanarak kırık bir temel üzerine yapay zeka inşa ettiğinizde tam olarak ne olduğunu gösteriyor. HAL 9000 kötülük yapmadı. Çelişkili bir prompta kusursuz, ölümcül bir çözüm sundu. ...