ho open-sourced autokernel -- autoresearch per i kernel GPU dai qualsiasi modello pytorch. profila il modello, trova i kernel che causano colli di bottiglia, scrive sostituzioni triton e esegue esperimenti durante la notte. modifica un file, esegui benchmark, mantieni o ripristina, ripeti per sempre. stessa logica di @karpathy autoresearch, applicata all'ottimizzazione dei kernel 95 esperimenti. 18 TFLOPS → 187 TFLOPS. 1.31x rispetto a cuBLAS. tutto autonomo 9 tipi di kernel (matmul, flash attention, mlp fuso, layernorm, rmsnorm, softmax, rope, entropia incrociata, riduzione). la legge di Amdahl decide cosa ottimizzare dopo. 5 controlli di correttezza in 5 fasi prima che qualsiasi accelerazione venga conteggiata l'agente legge program.md (il "codice dell'organizzazione della ricerca"), modifica, esegue e mantiene o ripristina. ~40 esperimenti/ora. ~320 durante la notte viene fornito con definizioni autonome di GPT-2, LLaMA e BERT in modo da non aver bisogno della libreria transformers per iniziare

Macrohard o Digital Optimus è un progetto congiunto di xAI e Tesla, che fa parte dell'accordo di investimento di Tesla con xAI. Grok è il maestro conduttore/navigatore con una profonda comprensione del mondo per dirigere Digital Optimus, che elabora e agisce sui 5 secondi passati di video in tempo reale dello schermo del computer e delle azioni di tastiera/mouse. Grok è come una versione molto più avanzata e sofisticata del software di navigazione passo-passo. Puoi pensarlo come se l'AI di Digital Optimus fosse il Sistema 1 (parte istintiva della mente) e Grok fosse il Sistema 2 (parte pensante della mente). Questo funzionerà in modo molto competitivo sul super economico Tesla AI4 ($650) abbinato a un uso relativamente frugale dell'hardware xAI Nvidia molto più costoso. E sarà l'unico sistema AI intelligente in tempo reale. Questo è un grande affare. In linea di principio, è in grado di emulare la funzione di intere aziende. Ecco perché il programma si chiama MACROHARD, un riferimento divertente a Microsoft. Nessun'altra azienda può ancora farlo.