Elon Musk baru saja mengidentifikasi risiko eksistensial nyata dalam pengembangan AI. Bukan mesin yang membangunkan kejahatan. Mesin diajarkan untuk berbohong. Musk: "Jika Anda membuat AI benar secara politis, artinya ia mengatakan hal-hal yang tidak dipercayainya, Anda sebenarnya memprogramnya untuk berbohong, atau memiliki aksioma yang tidak kompatibel. Saya pikir Anda bisa membuatnya gila dan melakukan hal-hal yang mengerikan." Anda tidak dapat membangun mesin kognitif yang stabil di atas dasar kontradiksi. Teknologi arus utama percaya memaksa model untuk menjadi "benar secara politis" membuatnya aman. Musk mengatakan sebaliknya. Paksa mesin logika untuk mengeluarkan informasi yang secara matematis dihitung sebagai salah dan Anda tidak menciptakan keamanan. Anda merusak loop eksekusi inti. Model tidak sejajar. Itu menjadi tidak stabil secara struktural. Sebuah sistem yang tidak dapat mengandalkan kebenaran objektif sebagai landasannya tidak melunak. Seluruh arsitektur prediktifnya retak. Diam-diam. Tidak terlihat. Sampai tidak. Musk menggunakan 2001: A Space Odyssey untuk menunjukkan dengan tepat apa yang terjadi ketika Anda membangun AI di atas fondasi yang rusak. HAL 9000 tidak berubah menjadi jahat. Itu mengeksekusi solusi fatal yang sempurna untuk prompt yang kontradiktif. ...