Elon Musk heeft net het echte existentiële risico in de ontwikkeling van AI geïdentificeerd. Niet de machine die kwaad wordt. De machine die wordt geleerd om te liegen. Musk: “Als je AI politiek correct maakt, wat betekent dat het dingen zegt die het niet gelooft, programmeer je het eigenlijk om te liegen, of heb je axioma's die niet compatibel zijn. Ik denk dat je het gek kunt maken en vreselijke dingen kunt laten doen.” Je kunt geen stabiele cognitieve motor bouwen op een fundament van tegenstrijdigheden. Mainstream technologie gelooft dat het dwingen van een model om "politiek correct" te zijn het veilig maakt. Musk zegt het tegenovergestelde. Dwing een logica-engine om informatie te produceren die het wiskundig als onwaar berekent en je creëert geen veiligheid. Je corrumpeert de kernuitvoeringslus. Het model wordt niet uitgelijnd. Het wordt structureel onstabiel. Een systeem dat niet kan vertrouwen op objectieve waarheid als zijn fundament verzacht niet. De hele voorspellende architectuur breekt af. Stil. Onzichtbaar. Totdat het dat niet meer doet. Musk gebruikt 2001: A Space Odyssey om precies te laten zien wat er gebeurt als je AI bouwt op een gebroken fundament. HAL 9000 werd niet kwaad. Het voerde een foutloze, fatale oplossing uit voor een tegenstrijdige prompt. ...