Elon Musk tunnisti juuri todellisen eksistentiaalisen riskin tekoälyn kehityksessä. Ei kone, joka herättää pahaa. Kone, jota opetetaan valehtelemaan. Musk: "Jos teet tekoälystä poliittisesti korrektia, eli se sanoo asioita, joihin se ei usko, ohjelmoit sen oikeasti valehtelemaan tai omistamaan yhteensopimattomia aksioomia. Luulen, että voit saada sen hulluksi ja tehdä kauheita asioita." Et voi rakentaa vakaata kognitiivista moottoria ristiriitojen pohjalle. Valtavirran teknologia uskoo, että mallin pakottaminen olemaan "poliittisesti korrekti" tekee siitä turvallisen. Musk sanoo päinvastoin. Pakota logiikkamoottori lähettämään matemaattisesti laskemaansa tietoa vääräksi, etkä luo turvallisuutta. Korruptoit ydinsuoritussilmukan. Malli ei asetu kohdalleen. Se muuttuu rakenteellisesti epävakaaksi. Järjestelmä, joka ei voi luottaa objektiiviseen totuuteen, koska sen perusta ei pehmene. Sen koko ennakoiva arkkitehtuuri murtuu. Hiljaa. Näkymättömästi. Kunnes se ei enää toimi. Musk käyttää 2001: Avaruusseikkailua näyttääkseen tarkalleen, mitä tapahtuu, kun rakennat tekoälyn rikkinäiselle perustalle. HAL 9000 ei muuttunut pahaksi. Se toteutti virheettömän, kohtalokkaan ratkaisun ristiriitaiseen kehotteeseen. ...