Ich habe Autokernel open-sourced – Autoresearch für GPU-Kerne. Du gibst ihm ein beliebiges PyTorch-Modell. Es profiliert das Modell, findet die Engpasskerne, schreibt Triton-Ersatzlösungen und führt über Nacht Experimente durch. Eine Datei bearbeiten, benchmarken, behalten oder zurücksetzen, immer wieder. Der gleiche Loop wie @karpathy Autoresearch, angewendet auf die Optimierung von Kernen. 95 Experimente. 18 TFLOPS → 187 TFLOPS. 1,31x im Vergleich zu cuBLAS. alles autonom. 9 Kerntypen (matmul, flash attention, fused mlp, layernorm, rmsnorm, softmax, rope, cross entropy, reduce). Amdahls Gesetz entscheidet, was als Nächstes optimiert werden soll. 5-stufige Korrektheitsprüfungen, bevor irgendein Geschwindigkeitszuwachs zählt. Der Agent liest program.md (den "Forschungs-Org-Code"), bearbeitet, führt aus und behält entweder oder setzt zurück. ~40 Experimente/Stunde. ~320 über Nacht. Wird mit selbständigen GPT-2-, LLaMA- und BERT-Definitionen geliefert, sodass du nicht die Transformers-Bibliothek benötigst, um zu starten.

Macrohard oder Digital Optimus ist ein gemeinsames Projekt von xAI und Tesla, das Teil von Teslas Investitionsvereinbarung mit xAI ist. Grok ist der Hauptdirigent/Navigator mit einem tiefen Verständnis der Welt, um Digital Optimus zu steuern, der die letzten 5 Sekunden von Echtzeit-Computerbildschirmvideos und Tastatur-/Mausaktionen verarbeitet und umsetzt. Grok ist wie eine viel fortschrittlichere und ausgeklügeltere Version von Navigationssoftware mit Schritt-für-Schritt-Anweisungen. Man kann es sich so vorstellen, dass die Digital Optimus KI System 1 (instinktiver Teil des Geistes) und Grok System 2 (denkender Teil des Geistes) ist. Dies wird sehr wettbewerbsfähig auf dem super günstigen Tesla AI4 ($650) laufen, kombiniert mit einem relativ sparsamen Einsatz der viel teureren xAI Nvidia-Hardware. Und es wird das einzige Echtzeit-Smart-AI-System sein. Das ist eine große Sache. Im Prinzip ist es in der Lage, die Funktion ganzer Unternehmen zu emulieren. Deshalb wird das Programm MACROHARD genannt, eine witzige Anspielung auf Microsoft. Kein anderes Unternehmen kann das bisher tun.