梯度优化物理信息神经网络
发布日期:2022-10-21 16:14:21 发布人:人员机构
报告人：李彪 时间：10月13日 17:00 地点：腾讯会议（687-299-089） 主办单位： 数理与统计学院 主讲人：李彪，宁波大学数学与统计学院教授，博士生导师。主要从事非线性数学物理，孤立子与可积系统、深度学习等方面的研究。主持完成国家自然科学基金项目4项、省部级项目3项；参与完成国家自然科学基金重点项目2项；现主持国家自然科学基金面上项目1项和参与国家自然科学基金重点项目1项。发表SCI论文100余篇，他引3000余次。 内容简介：近年来，物理信息神经网络由于能够通过少量数据求解非线性偏微分方程，从而快速获得高精度的数据驱动解，因而受到越来越多的关注。然而，尽管它们在早期阶段有着显著的前景，但它们不平衡的反向传播梯度计算导致模型训练期间梯度值剧烈振荡，这容易导致预测精度不稳定。基于此，本报告主要介绍我们开发的一种梯度优化算法，该算法提出了一种新的神经网络结构，并通过梯度统计平衡了模型训练过程中损失函数中不同项之间的相互作用，从而新提出的网络结构对梯度波动具有更强的鲁棒性。 关于活动获得“第二课堂学分”的说明 线上： ①在图书馆预约会场名额（为防控疫情，请务必提前预约）没有预约名单，不计算积分 ②腾讯会议：进入腾讯会议后更改自己昵称备注为学号+姓名 ③讲座开始后 将在任意两个时段由工作人员记录信息，进行比对审核，成功匹配的计算第二课堂积分。 ④请同学们全程参与讲座，不可中途来回进出。聆听讲座时确保自己的昵称更改为要求格式，否则最终审核不通过，将无法获得第二课堂积分
分享到：
相关信息