北邮王尚广团队在端侧智能发展领域取得进展

日期:2025年06月30日 来源:北京邮电大学 作者:系统管理员 【打印】 【关闭】

       6月19日,Nature子刊《Nature Communications》正式发表题为“Ubiquitous Memory Augmentation via Mobile Multimodal Embedding System”(基于端侧多模态大模型系统的普适性记忆增强)的研究论文。论文第一作者为北京邮电大学博士生蔡栋琪,计算机学院(国家示范性软件学院)王尚广教授、徐梦炜副教授与剑桥大学Nicholas D. Lane教授共同担任本文通讯作者。
论文聚焦移动端设备在多模态历史数据检索能力上的技术瓶颈,首次在移动端实现基于多模态大模型的统一高效数据嵌入服务,构建了软硬件协同优化的系统级解决方案,创新性地提出了面向移动设备的多模态大模型高效部署方案,为端侧智能发展开辟了新的技术路径。



       该方案结合数据感知预测、渐进式参数微调和投机多粒度检索三大核心技术,通过算法-硬件协同优化显著提升推理效率和数据表征质量,在不同的端侧设备上相较于传统方案实现了平均12倍的吞吐量提升和20倍的能耗优化,在多个跨模态内容匹配典型任务中的准确率提升超40%,成功突破端侧设备的效率-精度平衡难题。



系统流程图及关键技术说明


       该成果不仅为人类认知增强提供了可行的技术路径,也为端侧大模型的应用部署树立了全新范式,对推动下一代智能终端的发展具有重要意义。相关技术也部署在北邮2号和3号卫星上,用于国产太空服务器10亿级参数大模型在轨试验测试,为6G、卫星互联网 “业务上天、服务在轨”提供重要技术支撑。
       论文链接:https://www.nature.com/articles/s41467-025-60802-5

分享到: