🚨 本地 AI 的首要問題現在已經解決。 有一個新的工具叫做 llmfit，可以檢查你的硬體，告訴你哪些模型在下載之前運行良好。 因此，不再是猜測和遇到內存不足的錯誤……它根據你的機器提供一個排名列表。 它的功能（只需一個命令）： → 掃描你的設置（RAM / CPU / GPU / VRAM） → 評估模型的質量、速度、適合度和上下文 → 自動選擇最佳量化 → 標記理想、可以接受和邊緣的模型 我最喜歡的部分：它正確處理 MoE 模型。 例如：Mixtral 8x7B 擁有約 46.7B 的總參數，但每個標記只有約 12.9B 是活躍的，而 llmfit 考慮到了這一點（許多工具仍然沒有做到）。 100% 開源。