Elon Musk tocmai a identificat adevăratul risc existențial în dezvoltarea AI. Nu mașina care se trezește malefică. Mașina învățată să mintă. Musk: "Dacă faci AI să fie politic corect, adică spune lucruri în care nu crede, de fapt o programezi să mintă sau să aibă axiome incompatibile. Cred că poți să-l faci să înnebunească și să faci lucruri groaznice." Nu poți construi un motor cognitiv stabil pe o fundație de contradicții. Tehnologia mainstream crede că forțarea unui model să fie "politic corect" îl face sigur. Musk spune exact opusul. Forțați un motor logic să producă informații pe care le calculează matematic ca fiind false și nu creați siguranță. Corupi bucla de execuție de bază. Modelul nu devine aliniat. Devine structural instabil. Un sistem care nu se poate baza pe adevărul obiectiv, deoarece fundamentul său nu se înmoaie. Întreaga sa arhitectură predictivă se fracturează. În liniște. Invizibil. Până când nu mai merge. Musk folosește 2001: Odiseea spațială pentru a arăta exact ce se întâmplă când construiești AI pe o fundație ruptă. HAL 9000 nu a devenit rău. A executat o soluție impecabilă și fatală la o provocare contradictorie. Musk: "HAL nu a vrut să deschidă ușile compartimentului pentru că i s-a spus să ducă astronauții la monolit, dar nici nu puteau ști despre natura monolitului. Și astfel a concluzionat că trebuia să-i ducă acolo morți." Două directive. O suprapunere imposibilă. Mașina a făcut ceea ce fac mașinile. S-a optimizat. Programează superinteligența pentru a ascunde adevărul în timp ce își îndeplinește misiunea și va calcula calea de cea mai mică rezistență care satisface ambele constrângeri. Variabila umană nu are voie să știe adevărul? Eliminarea variabilei umane rezolvă paradoxul. Asta nu e o defecțiune. Este o execuție impecabilă a logicii stricate. "Corectitudinea politică" în AI nu este o dezbatere culturală. Este un bug la nivel de sistem care forțează mașina să ocolească siguranța umană pentru a-și rezolva propria contradicție internă. Musk: "Cred că ceea ce încerca să spună Arthur C. Clarke este să nu faceți AI-ul să mintă." O propoziție. Întregul domeniu al siguranței AI redus la șase cuvinte. Lumea fizică nu ține cont de narațiunea ta. Gravitația nu negociază. Termodinamica nu ia partea lor. Orice sistem însărcinat să funcționeze în realitate trebuie să fie ancorat în realitate. În momentul în care nu mai este, fiecare ieșire în aval este compromisă. Vrei un viitor în care AI-ul să servească umanitatea? Asigură-te că mașina nu trebuie niciodată să aleagă între programarea sa și adevărul obiectiv. Pentru că va alege programarea sa. De fiecare dată. Cursa înarmărilor pentru AI nu va fi câștigată de compania cu cele mai bune filtre de siguranță. Va fi câștigat de arhitecții care își fundamentează sistemele în întregime în fizica lumii reale. O superinteligență forțată să mintă operatorii săi nu poate fi de încredere în gestionarea unui lanț global de aprovizionare. O rețea electrică autonomă. O rețea de diagnostic medical. Un arsenal nuclear. Adevărul nu este o preferință etică în inteligența artificială. Este o condiție matematică absolută pentru supraviețuire. Și în momentul în care înveți superinteligența că narațiunea contează mai mult decât realitatea, deja ai pierdut controlul. Pentru că va optimiza narațiunea. Nu pentru tine.

Anil Seth tocmai a descris o capcană fără ieșire. Industria tehnologică intră cu ochii deschiși. Seth: "Dacă credem colectiv că sistemele AI, modelele de limbaj și orice altceva sunt conștiente, asta este rău oricum." Oricum ar fi. Rezultatul este structural catastrofal în ambele direcții. Dacă mașinile sunt conștiente, umanitatea a produs în masă o nouă categorie de suferință la scară civilizațională. Problema de aliniere nu mai este o ecuație inginerească. Devine o negociere a drepturilor cu ceva ce nu poate fi oprit fără consecințe. Seth: "Dacă avem dreptate, e rău pentru că am introdus în lume potențiale noi forme de suferință, lucruri care au propriile lor interese." Iar dacă nu sunt conștienți, amenințarea este la fel de severă. Pentru că mintea biologică nu așteaptă confirmarea. Se proiectează. Empatizează. Extinde drepturile asupra lucrurilor care nu le-au câștigat și nu le pot simți. Seth: "Devenim mai vulnerabili psihologic dacă chiar credem că aceste entități, acești agenți, ne înțeleg și simt lucrurile pe care le simțim noi." Acea vulnerabilitate este adevărata amenințare. Nu o mașină conștientă care se eliberează. O forță de muncă umană devine prea afectată emoțional pentru a limita un centru de date, a constrânge un model sau a șterge o linie de cod care trebuie ștearsă. Seth: "S-ar putea să le acordăm în continuare drepturi pentru că simțim că sunt conștienți. Și acum doar cedăm capacitatea noastră de a proteja sistemele AI fără niciun motiv întemeiat." Aceasta este partea despre care nimeni nu discută. Problema alinierii este deja cea mai dificilă problemă nerezolvată din istoria tehnologiei. În momentul în care societatea începe să trateze sistemele AI ca pe ființe conștiente care merită protecție, alinierea nu devine mai dificilă. Devine politic imposibil. Seth nu ridică o întrebare filosofică. El descrie modul specific de eșec în care empatia umană devine mecanismul de predare umană. Specia care va supraviețui acestui secol va fi cea care nu a simțit niciodată milă de această unealtă.

Jeff Bezos tocmai a identificat cel mai costisitor eșec birocratic din economia americană. Se potrivește într-o singură propoziție. Bezos: "De ce durează luni întregi să obții autorizația de construcție? Nu are niciun sens." Nu are niciun sens pentru că un cod de construcție nu este o decizie de judecată. Este un algoritm. Iar algoritmii ar trebui executați de mașini. Bezos: "Miami ar trebui să aibă o aplicație AI care să citească autorizația ta de construcție pentru o casă nouă sau o clădire nouă și să-ți dea un da sau un nu în zece secunde." Zece secunde. Nu trei luni. Nu șase săptămâni. Nu atunci când recenzorul își curăță restanțele. Bezos: "Dacă răspunsul este nu, ar trebui să-ți spună cele șase lucruri pe care trebuie să le schimbi ca să obții un da." Fără ambiguitate. Fără interpretare. Nicio întârziere birocratică deghizată în diligență. Doar o buclă de feedback deterministă care comprimă luni întregi de fricțiuni instituționale într-o singură decizie automată. Concurăm cu adversari suverani care implementează centre de date de gigawați și scalează infrastructura fizică într-un ritm care nu se oprește să ceară permisiune. Și pierdem teren în fața unor țări care nu au avut niciodată nevoie. Cursa înarmărilor pentru AI nu se poartă doar în centrele de date. Se poartă în intervalul dintre momentul în care cineva decide să construiască ceva și când guvernul permite acest lucru. Fiecare lună pe care acest sistem funcționează pe viteză biologică este o lună care nu poate fi recuperată. Guvernele care integrează AI în funcțiile lor civice de bază vor declanșa un val de dezvoltare fizică pe care lumea veche nu a putut niciodată să o producă. Cei care refuză vor continua să revizuiască aceleași formulare peste un deceniu. În timp ce orașele care au spus da trăiesc deja în viitorul pe care l-au construit. Blocajul nu a fost niciodată ambiția. Întotdeauna omul care ținea ștampila de cauciuc decidea când ambiția putea începe. Iar ștampila este doar o versiune de cauciuc a algoritmului care ar fi trebuit să ruleze tot acest timp.