БУМ! Целая локальная модель ИИ теперь может работать с минимальным объемом памяти без GPU! С нетерпением жду тестирования и запуска новой открытой модели BitNet b1.58 от Microsoft и расширения границ ИИ! Я запустил её на своем старом роботе Hero Jr., предоставив ему новую локальную систему рассуждений без интернета. Эта 1.58-битная LLM эффективно работает на очень маленьких устройствах, таких как Raspberry Pi 5, обеспечивая 5-7 токенов/сек без GPU, что идеально подходит для периферийных вычислений. Агент ZeroClaw взаимодействует с BitNet для выполнения задач ЛУЧШЕ, чем Mac Studio Pro, без абсурдных затрат на облачные токены. Это меняет мир, так как теперь любой современный ЦП может иметь быстрый полезный ИИ на устройстве. Модель не такая, как самые большие облачные модели, но она превосходит то, что они могли сделать 2 года назад. У нас сегодня десятки крупных тестов, но я могу сказать, что это откроет мир ИИ в любое время и в любом месте. Hugging Face: 🚀 #AI #BitNet