科大讯飞开源两款端侧大模型,1M超长上下文落地车载与IoT场景

【软盟资讯 · 7×24快讯】 科大讯飞于今日(9月1日)宣布,正式开源星火X2.5-4B与星火X2.5-1.7B两款端侧通用大模型,原生支持最长1M token上下文窗口,重点面向车载、智能硬件与万物互联等端侧场景。两款模型以低算力消耗、离线运行和隐私安全为核心卖点,推动大模型从云端向终端下沉。据透露,9月7日讯飞还将正式发布293B参数的星火X2.5基座模型,构建”云端协同+端侧部署”的全栈体系。(来源:澎湃新闻、界面新闻、讯飞开放平台官方公告)

【软盟观察】科大讯飞选择在这一节点开源端侧小模型,背后是对大模型产业格局的清醒判断。当云端大模型的算力竞赛进入白热化、推理成本居高不下之时,”端侧化”正成为行业寻找增量的新出口。1M的超长上下文窗口在同体量端侧模型中并不常见,这意味着即便是在本地运行的4B小模型,也能承载长文档、长对话等高密度任务,为车载语音助手、智能座舱多模态交互、个人终端助理等场景打开了此前只有云端大模型才能胜任的想象空间。

开源策略本身也耐人寻味。与其说这是技术开放,不如说是生态卡位——通过免费开放基座能力,吸引硬件厂商、开发者将其内嵌进更多终端产品,从而抢占”AI即服务”的终端入口。这与行业头部玩家”小模型+开源+端云协同”的路线高度吻合,也印证了大模型竞争正从”参数比拼”转向”落地变现”的下半场。

当然,端侧模型的现实挑战依然存在:小参数模型在复杂推理与泛化能力上仍与云端大模型存在差距,如何在效果与效率间取得平衡,仍是决定其商业化天花板的关键。讯飞能否借星火X2.5的发布,把端侧红利转化为可持续的产业生态,值得持续关注。

上一篇:

发表回复

登录后才能评论