¡BOOM! ¡Un modelo local de IA completo ahora puede ejecutarse con memoria mínima sin GPU! ¡Emocionado de probar y ejecutar el nuevo BitNet b1.58 de código abierto de Microsoft y empujar los límites de la IA! Lo tengo funcionando y probado en mi viejo robot Hero Jr., dándole un nuevo sistema de razonamiento local, sin internet. Este LLM de 1.58 bits funciona de manera eficiente en dispositivos muy pequeños como una Raspberry Pi 5, entregando 5-7 tokens/seg sin GPU, perfecto para la computación en el borde. El agente ZeroClaw se conecta con BitNet para realizar tareas MEJOR que un Mac Studio Pro sin los ridículos costos de tokens en la nube. Esto cambia el mundo, ya que ahora cualquier CPU moderna puede tener una IA útil y rápida en el dispositivo. El modelo no es como los modelos de nube más grandes, pero supera lo que podían hacer hace 2 años. Tenemos docenas de grandes pruebas hoy, pero puedo decir que esto abrirá el mundo de la IA en cualquier momento y en cualquier lugar. Hugging Face: 🚀 #AI #BitNet