我院刘永康科研团队三篇论文被人工智能领域顶级会议NeurIPS 2026录用

近日，我院刘永康科研团队在人工智能领域取得重要研究成果，三篇论文被国际顶级学术会议神经信息处理系统大会（NeurIPS 2026）录用。三项研究分别聚焦大语言模型低显存全参数微调、参数高效微调及多语言多模态模型融合，为提升大模型训练效率和综合能力提供了新的技术路径。

研究成果一“ChunkFT: Byte-Streamed Optimization for Memory-Efficient Full Fine-Tuning（ChunkFT：基于字节流的显存高效全参数微调）”针对大语言模型全参数微调显存开销高的问题，提出基于动态参数块激活的显存高效全参数微调框架ChunkFT。该方法在不改变模型结构的前提下显著降低显存需求，仅需13.72GB显存即可完成7B模型的全参数微调，并支持利用单张RTX 4090和两张H800显卡分别微调8B和70B规模模型，在多项下游任务中表现优异。刘永康为第一作者，东北大学为第一完成单位，合作单位包括上海交通大学、慕尼黑大学和山东大学。

研究成果二“SMoA: Spectrum Modulation Adapter for Parameter-Efficient Fine-Tuning（SMoA：基于频谱调制适的参数高效微调）”针对低秩适配方法在参数效率与表达能力之间的权衡问题，提出基于权重矩阵频谱调制的参数高效微调方法SMoA。该方法结合频谱分块、Hadamard调制与低秩更新，在较低参数预算下增强模型表达能力，并在多项下游任务中优于LoRA及多种代表性改进方法。刘永康为第一作者，东北大学为第一完成单位，合作单位包括慕尼黑大学和山东大学。

研究成果三“DiM³: Bridging Multilingual and Multimodal Models via Direction- and Magnitude-Aware Merging（DiM³：基于方向和幅值感知的多语言和多模态模型合并）”针对多模态大模型多语言能力不足及能力扩展成本高的问题，提出无需额外训练的模型融合框架DiM³。该方法通过感知模型参数变化的方向与幅值，实现多语言与多模态能力的自适应融合。覆盖57种语言的实验表明，该方法显著提升了模型的多语言视觉理解能力，同时较好保留原有多模态性能。刘永康为第一通讯作者，东北大学为第一完成单位，合作单位包括慕尼黑大学和上海交通大学。

上述三项研究成果聚焦大模型高效训练与能力融合领域的关键科学问题，充分展现我校科研团队在人工智能前沿领域的持续探索以及自主创新实力。

据悉，NeurIPS是人工智能与机器学习领域最具影响力的国际学术会议之一，也是中国计算机学会（CCF）推荐的A类国际学术会议。本届会议将于2026年12月6日至13日在澳大利亚悉尼举行。