这就是我们需要本地 AI 开放基准的原因。 否则它就会变成部落主义和互相指责。 我们将发布最大的本地 AI 开放基准数据库,测试在 1,000 多个真实硬件设置上。每个设备、每个互连、不同的模型/量化。 我们有一个充满硬件的办公室:每个 M 芯片的 Mac、每个 iPhone、每个 RTX、DGX Spark、Strix Halo、Pi,…… 一般来说,苹果硅的内存单元经济性优越,而 GPU 的计算单元经济性更佳。什么是最好的取决于工作负载和并发性。 真相(在开放基准中将显而易见)是,最好的组合是两者的某种结合——将你内存密集型的内存绑定任务放在 Mac 上,将计算密集型的任务放在 GPU 上。