熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
Elon Musk:在特斯拉,我們基本上有兩個不同的晶片計畫:一個是 Dojo,另一個是。我們在訓練方面使用 Dojo,然後我們稱之為 AI4,這就是我們的推理晶片。
AI4 是目前在所有車輛中運行的晶片,我們正在最終確定 AI5 的設計,這將是 AI4 的一個巨大飛躍。根據某些指標,AI5 的改進將比 AI4 好 40 倍。所以不是 40%,而是 40 倍。
這是因為我們在 AI 軟體和 AI 硬體上非常緊密地合作,深入到非常細微的層面。因此,我們確切知道限制因素在哪裡。因此,AI 硬體和軟體團隊實際上是在共同設計這個晶片。
與 AI4 上最糟糕的限制相比,即運行 SoftMax 操作,我們目前必須在模擬模式下運行約 40 步的 SoftMax,而在 AI5 中這將只需幾步即可完成。
AI5 也能輕鬆處理混合精度模型,因此你不必擔心,它會動態處理混合精度。AI5 將在許多技術方面做得更好。
在名義上的原始計算能力方面,它的計算能力是 AI4 的八倍,內存大約是九倍,內存帶寬大約是五倍。
但因為我們正在解決 AI4 中的一些核心限制,你將這 8 倍的計算改進再乘以 5 倍的改進,因為在目前 AI4 中的某些次優化的矽層面進行了優化,這就是你得到 40 倍改進的原因。
熱門
排行
收藏

