Karpathy lopetti juuri automaattisen tutkimuksen – tekoälyagentit, jotka ajavat koneoppimiskokeita itsenäisesti yhdellä näytönohjaimella nukkuessasi Vuoden 2027 parhaat tekoälylaboratoriot saattavat olla vain 2–3 henkilöä
Andrej Karpathy
Andrej Karpathy8.3. klo 03.53
Paketoin "autoresearch"-projektin uuteen itsenäiseen minimirepositoon, jos ihmiset haluavat pelata viikonloppuna. Se on käytännössä nanochat LLM -koulutusydin, joka on pelkistetty yhteen GPU:hun, yhteen tiedostoversioon ~630 koodirivistä, sitten: - ihminen iteroi kehotteen (.md) mukaisesti - tekoälyagentti iteroi koulutuskoodia (.py) Tavoitteena on suunnitella agenttisi tekemään nopeinta tutkimusedistystä loputtomasti ilman omaa osallistumistasi. Kuvassa jokainen piste on täydellinen LLM-harjoitus, joka kestää tasan 5 minuuttia. Agentti toimii autonomisessa silmukassa git-ominaisuushaarassa ja kerää git-commit-yhdisteitä koulutusskriptiin, kun se löytää parempia asetuksia (pienempi validointihäviö lopussa) neuroverkkoarkkitehtuurille, optimoijalle, kaikille hyperparametreille jne. Voit kuvitella vertailevasi eri promptien, eri agenttien ym. tutkimuksen edistymistä. Osa koodia, osittain scifiä ja ripaus psykoosia :)
Positiivisena puolena voisimme ehkä tehdä enemmän tutkimusedistystä vähemmillä riskipääomalla $s nyt
492