日前，工业和信息化部中国信息通信研究院公布的一份检测报告显示，上海原点星辉科学技术有限公司（StartLux）研发的本地模型StartLux-V1.0-27B-Preview，在可信AI大模型基准测试——MCP专项测试中，以27B的参数量取得综合性能排名第二的成绩。第一名的DeepSeek-V4-Pro，模型规模则高达1.6万亿参数。

几乎同期，国内外AI公司在本地模型研发上动作频频。8月，Meta发布30B本地模型Muse Glimmer，云端巨头Perplexity AI宣布进入本地模型市场；9月初，北京大学“出品”的元空AI联合惠普在上海发布端侧模型产品，让35B的模型在可断网的电脑上跑。

“AI圈”正在重新审视一条曾被轻视的技术路线：更轻量的本地模型是否到了崛起的时候？

AI模型并非“越大越好”

过去3年，AI行业笃信“越大越好”，最直接的竞争方式是扩大参数、增加算力和训练数据。不过，StartLux首席技术官、语生科学首席科学家郭权玮却发现，当基础模型能力不断提升之后，能进入用户工作流的应用却没有同步增加。

郭权玮一直在研究如何提高模型的智能密度，通过架构、训练和系统协同，让有限规模的模型能释放更强能力，并在真实任务执行上逼近更大规模的云端模型。中国信通院的测试结果显示，StartLux以Qwen3.6-27B为基座，通过自主设计的后训练优化技术，把一个27B的本地模型推到了与1.6T旗舰同级的位置。“我们采用AI训练AI的方法自主开展训练实验，并通过反馈持续优化训练策略。”他表示，这一方法也代表了当前全球模型研发的前沿方向。

有业内专家判断，模型能力的竞争正在从比参数量转向比智能密度，而本地模型的进步速度远超硬件。2023年，最佳本地模型对前沿模型的胜率加平局率仅为23.2%，2025年就攀升至71.3%，每年提高约20个百分点。

“3条曲线在今年交汇，打开了端侧AI的窗口。”北京大学AI联合实验室主任、元空AI创始人兼CEO逄大嵬认为，一方面，智能密度快速提升，今天35B参数的模型已达到一两年前云端大模型的能力，另一方面，智能体的脚手架能力走向成熟，同时，端侧芯片算力持续增长，本地化浪潮是模型能力、任务执行框架和底层算力三重力量同步成熟的结果。就在近期，元空AI在上海发布Boxer端侧模型，涵盖27B稠密和35B-A3B稀疏版本，其智能密度能追平一年半前的云端标杆，这意味着本地设备已具备承载高质量模型并高效执行任务的能力。

盛大网络联合创始人、StartLux创始人兼CEO陈大年做了一个生动的类比：“人的大脑就这么点容量、这么点功耗，却产生了人类辉煌文明；同样水平的能力，现在的大模型却要靠巨大的参数量去堆，这应该是策略上出了问题。”他判断，在95%的场景下，未来本地模型的能力一定可以打平云端模型，3年内本地模型会占据80%的市场。

企业定制需求正在上升

无独有偶，全球巨头也开始关注本地模型的可能性。8月10日，Meta发布30B本地模型Muse Glimmer，主张AI应走向本地。8月25日，头部云端AI公司Perplexity AI宣布进入本地模型市场，推出多模型编排智能体数字员工“Perplexity Computer”的本地化版本。

在专家看来，本地模型定制需求的上升与企业需求有关。逄大嵬认为，云端大模型在落地时会面临几个现实问题，首先是数据安全与隐私考量，“今天你把企业的数据全部丢到云上跑一圈，包括个人的隐私数据、企业的财务数据、制造业的敏感数据，这真的安全吗？”IDC报告指出，欧盟《AI法案》与中国《个人信息保护法》配套标准已明确要求涉及敏感信息的AI处理“原则上应在本地完成”。

逄大嵬认为，成本骤升和稳定性问题也是企业使用云上模型时的痛点。目前，云端Token费用随使用量呈线性增长，已进入企业财务报表，而且部分长任务跑到一半会出现中断，无法保证持续可预期的输出。据此，他判断：“AI的下一站，不在云端，在本地。”

源自北京大学科学智能学院的元空AI最近就与惠普一起，将开源大模型和智能体框架，以及面向办公、金融、科研等不同场景的专有知识，全部塞进本地设备。元空AI联合创始人宁鲲鹏向记者演示在惠普电脑上“断网整理53张发票”的工作流。记者看到，在Linux环境下，元空AIWork调用Boxer本地模型，自动调取底层的脚本工具，逐张扫描本地文件夹里的53张发票，完成格式解析与分类归档，并在本地生成一张结构完整的Excel报表，整个过程仅需几分钟。

“金融、医疗、政务等行业对数据出域零容忍，‘离线可用’的能力为端侧模型提供了爆发的可能。”逄大嵬表示，元空AIWork可持续24小时不间断工作，科研场景下可连续执行超过100组复杂实验并完整保留每一组的参数与轨迹。StartLux也表示，计划于年内推出第一代本地智能解决方案，团队正在稳步推进模型训练，也正对扩散式语言模型等新架构进行深入研究和优化。

据《文汇报》