【软盟资讯 · 7×24快讯】 9月1日消息,小米开源最新语言模型Mimo-7B量化版,即使2000元价位的红米Turbo4手机也能在完全断网情况下本地部署运行、一字一句输出正确结果。这一突破展示了小型端侧模型的独特优势——无视环境、随时随地本地运行、低延迟、低部署成本。报道指出,面壁智能MiniCPM仅8B测试表现可媲美GPT-4o,苹果也开始自研3B参数端侧模型AFM-on-device。业内认为,参数量小的模型可以被各行各业公司自己训练,炼出领域专家,正在成为AI落地移动设备的重要方向。(来源:快科技)
【软盟观察】 小米Mimo-7B能在2000元手机上本地运行,看似是一个”小型模型”的技术细节,实则指向AI产业一个被忽视却至关重要的方向——端侧AI的普及化。当AI模型的部署从”烧显卡、烧钱”走向”手机就能跑”,意味着AI正在从”云端依赖”走向”随时随地的本地智能”。这背后的意义远超”方便”二字:一方面,端侧模型解决了数据隐私问题——敏感数据无需上传云端,本地处理更安全;另一方面,低延迟特性让AI真正能够”贴身服务”——正如报道所言,如果指挥智能家居都靠云端大模型,等数据上传、深度思考、再传回来,体验将大打折扣。更深远的意义在于”平民化”:训练GPT-4o级别的模型要烧1亿美元,而小型模型让中小企业和个人开发者也能低成本炼出领域专家。从面壁智能MiniCPM媲美GPT-4o,到苹果自研3B参数AFM,再到小米Mimo-7B落地手机,端侧AI正在形成一个与大模型并行的新生态——它不是”缩小版的大模型”,而是一条通往”AI无处不在”的差异化路径。当AI既能在云端”仰望星空”,也能在端侧”触手可及”,这场智能革命才算真正惠及每一个人。