I pesi aperti non sono un allenamento aperto. @AddieF38654 del nostro team ha scritto della sua esperienza nel tentativo di post-addestrare un modello MoE da 1T parametri utilizzando l'infrastruttura open source esistente. Scopriamo quanti monkey-patch servono per post-addestrare un modello a pesi aperti. Un thread🧵