ドカン! AIローカルモデル全体がGPUなしで最小限のメモリで動作できるようになりました! Microsoftの新しいオープンソースBitNet b1.58のテストと運用、そしてAIの限界を押し広げることにワクワクしています! 古いHero Jr.ロボットでテストして、新しいローカルでインターネットなしのシステムに切り替えています。 この1.58ビットのLLMは、Raspberry Pi 5のような非常に小さなデバイスで効率的に動作し、GPUなしで1秒あたり5〜7トークンを効率的に処理し、エッジコンピューティングに最適です。ZeroClawエージェントはBitNetと連携し、Mac Studio Proよりも優れたタスクを、途方もないクラウドトークンコストなしで実行できます。 これは世界を変えるもので、今やどんな現代のCPUでもデバイスに高速で便利なAIを搭載できるようになりました。 このモデルは最大級のクラウドモデルとは異なりますが、2年前の規模を超えています。 今日は何十もの大規模なテストがありますが、これでAIはいつでもどこでも世界を開拓すると言えます。 ハグフェイス:🚀 #AI #BitNet