设备端模型已足够优秀，可以告别云端了

多年来，人们的假设是有用的AI必须存在于别人的数据中心。这个假设正在悄然崩塌。

最新一代小型模型——几十亿参数，量化到可以在消费级硬件上运行——现在在摘要、起草、分类和代码补全方面已经足够优秀，完全无需联网。

默认私密

本地运行颠覆了隐私的故事。没有任何数据离开设备，没有每次请求的成本，模型在飞机上或地下室都能继续工作。

代价是能力：最大的前沿模型在最难的推理任务上仍然胜出。但对于日常工作的长尾需求，“足够好且在我的机器上”正开始击败”优秀但按量计费”。