БУМ! Ціла локальна модель AI тепер може працювати з мінімальною пам'яттю без GPU! Радий протестувати та запустити новий відкритий BitNet b1.58 від Microsoft і розширювати межі ШІ! Я тестував його на своєму старому роботі Hero Jr., надавши йому нову локальну систему логіки без інтернету. Ця 1,58-бітна LLM ефективно працює на дуже маленьких пристроях, таких як Raspberry Pi 5, забезпечуючи 5-7 токенів на секунду без GPU, що ідеально підходить для edge-обчислень. Агент ZeroClaw взаємодіє з BitNet, щоб виконувати завдання КРАЩЕ, ніж Mac Studio Pro, без абсурдних витрат на хмарні токени. Це змінює світ, адже тепер будь-який сучасний процесор може мати швидкий і зручний ШІ на пристроях. Модель не схожа на найбільші хмарні моделі, але перевершує те, що вони могли зробити два роки тому. Сьогодні у нас десятки великих тестів, але можу сказати, що це відкриє ШІ у будь-який час і будь-де у світі. Обіймаюче обличчя: 🚀 #AI #BitNet