新闻快递
新闻快递

新闻快递

当前位置: 首页 >> 正文

党建引领科研创新 理论突破彰显实力——我校人工智能学院大模型微调理论研究取得重要进展

2026年02月09日 15:14 刘波 点击:[]
 

在扎实推进学科专业建设、强化前沿基础研究能力的背景下,我校人工智能学院在大模型微调理论研究方面取得重要突破。近日,由学院大模型理论与应用团队完成的研究论文“IGU-LoRA: Adaptive Rank Allocation via Integrated Gradients and Uncertainty-Aware Scoring”被人工智能与机器学习领域国际顶级会议——国际学习表征大会(ICLR 2026)录用。该成果标志着我校在大模型微调理论领域取得首次原创性突破,彰显出学校在前沿人工智能基础研究方面的国际竞争力。

ICLR会议由深度学习奠基人、图灵奖得主Yoshua Bengio与Yann LeCun共同发起,被公认为机器学习领域最具影响力的三大顶级会议之一,在人工智能理论与关键技术创新方面享有极高学术声誉。

该研究直面当前大模型适配下游任务时参数效率与模型性能难以兼顾的核心挑战,创新性提出了基于积分梯度与不确定性感知评分的自适应秩分配理论框架。针对传统低秩微调方法采用固定秩设置、难以适配模型内部结构异质性的局限,研究团队引入积分梯度以全面评估参数的全局贡献,并融合不确定性感知机制有效抑制评分噪声,实现了更稳定、精准的秩动态分配。该方法在确保参数高效利用的同时,显著提升了大模型在下游任务中的微调性能,为参数高效微调领域提供了重要性评估的新范式。

此项成果是我校坚持高质量党建引领科研创新、推动学科交叉融合的生动体现。论文由我院大模型理论与应用团队教师刘波联合上海交通大学共同指导,2023级软件工程硕士研究生崔选为第一作者,2022级人工智能专业本科生李辉越、2023级人工智能专业本科生曾闰分列第二、三作者,展现出学院在党建引领下本硕协同培养与科研育人方面的显著成效。

该研究不仅推动了大模型轻量化适配理论的发展,也为构建自适应、高效率的大模型应用系统奠定了重要理论基础,是学校对接国家人工智能战略、推动“商工融合”特色人才培养的又一扎实成果。人工智能学院将持续发挥党组织在科研攻关中的引领保障作用,强化基础理论探索,促进产学研用融合,为推动学校人工智能学科高质量发展贡献力量。

下一条:党建引领促融合 医工交叉创新篇——人工智能学院推动科研教学双线突破

关闭