LeCun on ollut aggressiivisin transformer/LLM-konsensuksen kriitikko jo vuosia, ja tämä on hänen pääteoksensa "Suurin osa todellisen maailman sensoridatasta on arvaamatonta, eikä generatiiviset menetelmät toimi hyvin." Tämä tiivistää hänen näkemyksensä siitä, että todellinen älykkyys ei voi syntyä pelkästään tekstin ennustamisen skaalaamisesta Oli hän oikeassa tai ei, olen innoissani nähdessäni markkinoille uuden ajatussuunnan, joka tavallaan palauttaa toimijuuden fyysiseen maailmaan. Kannattaa "pitää silmällä" :)

On itse asiassa todella hyvä syy siihen, miksi suurin osa ihmisistä suhtautuu luonnostaan skeptisesti LLM:n rajoihin, eikä kukaan tee parempaa työtä kuin Judea Pearl, joka selittää sen "kausaation tikapuulla" Periaatteessa tässä päättelyportaassa on kolme askelmaa – ensimmäinen askel on "assosiaatio", jossa havaitset datan korrelaatiota. "ihmiset, jotka kantavat sytyttimiä, ovat todennäköisemmin sairastuneet keuhkosyöpään" -tyyppisiä juttuja. Tämän muuntaja tekee poikkeuksellisen hyvin äärettömän mittakaavan kanssa Toinen askel on "interventio", joka tarkoittaa ymmärtää, mitä tapahtuu, kun oikeasti TEKEE jotain, ja se muodostaa perustan "tieteelliselle menetelmälle", jonka kaikki opimme alakoulussa. "Jos PAKOTAN jonkun kantamaan sytytintä, aiheuttaako se syöpää?" Kolmas askel on "vastafaktuaalit", joissa pohditaan, mitä OLISI tapahtunut, jos olisit tehnyt xyz. Se on pohjimmiltaan korkein päättelymuoto, eli retrospektiivinen kausaalinen päättely. Tämä on moraalifilosofian perusta Käytännössä mikään laskenta ei auta pääsemään askelmalta 1 askelmalle 2 tai 3 (jotka minulle edustavat paremmin ihmisen kokemusta älykkyydestä). Tämä vaatii kausaalisia graafeja, eli tarvitset rakenteellisia havaintoja. Tämä eroaa perustavanlaatuisesti muuntaja-arkkitehtuurista, joka käytännössä vain käyrän sovittamista Luulen, että suuri syy siihen, miksi nykyisen tekoälyn metassa on todellista epäilystä tässä rajoittamattomasta "kaikki tai ei mitään" -näkemyksestä, on se, että hyöty on itse asiassa rajallisempi kuin sijoittajat ja tiedemiehet ajattelevat, ellei palaa joihinkin ensisijaisiin periaatteisiin