Acabamos de completar la mayor etapa de pre-entrenamiento descentralizado de LLM de la historia: Covenant-72B. Sin permisos, en la subred 3 de Bittensor. 72B. ~1,1T fichas. Internet de mercancías. No hay clúster centralizado. No hay lista blanca. Cualquiera con GPU podía unirse o salir libremente. 1/n

Este viernes en TGIF, @DistStateAndMe se sienta con @erfan_mhi, el investigador principal detrás de PULSE. El artículo de PULSE muestra cómo Grail logra una reducción de ancho de banda de 100 veces para la sincronización de peso en entrenamiento RL distribuido. Eso es lo que hace que el aprendizaje por refuerzo descentralizado sea práctico frente a internet convencional. Erfan explicará qué significa esta investigación para la hoja de ruta de Grail y hacia dónde va la subred a partir de aquí.

TGIF #23 está en directo en 5 minutos. Crusades se transmite con nosotros. @DistStateAndMe y Kevin de @HackQuest_ en la @opentensor Subnet Ideathon.