讲座题目：带遗忘因子的遗憾函数及相应算法的性能分析
主讲嘉宾：赵文虓
讲座时间：2024年11月1日（星期五）09:00
讲座地点：钱伟长楼201会议室
欢迎感兴趣的师生参加聆听！
江南大学理学院
2024年10月31日
主讲嘉宾简介：
赵文虓，毕业于山东大学，在中国科学院数学与系统科学研究院获得博士学位，现任中国科学院数学与系统科学研究院研究员。他的研究方向主要集中在随机系统的建模、估计与控制的理论研究，包括变量选择与稀疏参数辨识、随机系统的递推估计与自适应控制、多智能体系统的分布式估计与优化等，以及相关的应用研究。赵文虓目前担任《系统科学与数学》编委、IEEE CSS Conference Editorial Board编委以及 IEEE CSS 北京分会主任委员等学术兼职。
报告内容摘要:
遗憾函数 (Regret) 是评价在线优化算法性能的重要指标。在经典的遗憾函数基础上，提出了一种针对在线凸优化问题的新的评价标准——遗忘因子遗憾函数。遗忘因子遗憾函数通过给每个时间指标上的目标函数引入权重，且允许过去目标函数的权重随时间增长逐渐衰减为零，进而可以保证当遗忘因子遗憾函数趋于零时，在线优化算法的估计值收敛到时变目标函数的最优解。给出了梯度下降算法、基于平滑差分的无梯度算法、基于确定性差分的无梯度算法以及Frank-Wolfe算法等经典算法的遗忘因子遗憾函数的上界；进一步，建立了一种新的带遗忘因子的在线梯度下降算法并分析了该算法在遗忘因子遗憾函数下的理论性质；给出了保证上述算法对应的遗忘因子遗憾函数趋于零的充分条件，进而保证了算法对时变函数最优值点的追踪性能。
