（来源：上观新闻）
特约编译金⚪🧜♂️鹿对本文亦有🤨🦚贡献🆘。闲鱼上的☠💸交易大户🇪🇬🤳——职业卖家，几🇺🇸♠乎人手一个鱼🧲小铺👩🌾。描述与指🐯令执行类任🆓🇬🇾务考验的是🥍🇲🇾AI的⚠👎语言生成和指令理🔏解能力🦔。
在配备 👩👩👧👦Apple🕸♣ M4 Pro 📒🕍芯片的设备上，4🕠B 量化模型🚣♀️可实现高达🏌 476👙😫 to🤖kens/s 的▪预填充速🕷🏰度与 76 🌃🐒token🇹🇲s/s 🦡的解码🕶🍺速度，峰值内📈存占用仅为 🍙4.3G🍡B，完美适🚴♀️配主流边缘设⏯🇸🇭备的算力与存储限🍒🍣制🦑。
其中的关键因素🌽📎在于训🍤练和推理成本的大🤦♀️🥒幅扩张🇱🇦↕。通过在🛩这个标准化的测🦝试套件上进行评😊⚪估，研究团队能够🥦🏴准确地🎤🧞♀️比较不🛐同训练方法和数🇲🇲🇹🇲据配置的效🇬🇸🍓果😫🇧🇫。
