文再文
1. 概述
我的科研方向是最优化问题理论与算法及其应用。目前科研工作主要分为两方面:1)带结构最优化问题的基础算法与理论研究:凸优化与非线性规划,正交约束优化/特征值优化,半定规划等矩阵优化问题;2)应用领域:数据科学(包括经典机器模型和算法,深度学习,强化学习),物理、化员工物和工程等学科中的优化问题等等。
2. 研究课题
a) 正交约束优化的算法与理论
正交约束优化泛指变量为正交矩阵的优化模型。它描述了计算和应用数学,统计学,机器学习,数据科学和材料科学等等很多领域中的重要科学问题,包括线性与非线性特征值问题,电子结构计算,玻色-爱因斯坦凝聚,低温电子显微镜(冷冻电镜),相位恢复,p-调和流理论,组合优化问题的松弛解等等。这些问题的研究曾获多项诺贝尔物理奖和化学奖。
b) 大规模半定规划的算法与理论
半定规划是在满足线性约束条件下极小化关于半正定矩阵的线性函数。它在机器学习,最优控制,电子工程,机械设计等很多学科中有广泛的应用。由于半正定约束具有很强的非线性,这类凸规划问题即使在矩阵维数仅是几千的时候也非常难解。相关问题还包含低秩矩阵优化,协方差矩阵相关优化,鲁棒主成份分析和数据降维技术等等。
c) 深度学习中的算法与理论
结合当前一些经典神经网络架构,研究深度学习优化模型目标函数的性质,刻画其最优解的特点。挖掘神经网络架构特点,结合模型问题,设计更有效的随机优化算法和加速算法,从量级上减少训练时间。严格分析ADAM等算法的收敛性质。发展保证收敛的调参算法。结合图数据/流数据/流形数据发展深度学习模型和算法。发展大规模,多核并行/分布式算法。
d) 强化学习的最优化理论与算法
研究马尔可夫决策模型的线性规划形式,利用凸优化发展随机算法和理论。强化学习也可以对当前任务选择策略,通过与环境的不断交互使得利益最大化,由价值函数评估策略。常见的策略优化算法包括策略迭代法,策略梯度法,无导数优化算法。这些问题的目标函数可能是多次随机模拟产生,充分利用价值函数和策略函数的特点发展随机算法。
e) 机器学习的随机分析理论
近年来许多随机分析的工具被引入到最优化的领域,解决了很多很难的理论问题。这些分析工具主要应用在有明显结构特点的领域,比如相位恢复,矩阵填充和社区检测等。深度学习和强化学习通常是高度非线性的典型非凸优化问题。如何刻画和理解模型的理论性质对于设计模型和改进算法非常重要。
f) 应用课题研究:多模态图像数据分析;基于人工智能的治疗方案生成与分析;冷冻电镜图像分析;
3. 对本研的要求
● 课程要求:在本研过程中选修凸优化/大数据分析中的算法
● 能力要求:学习有余力,能每两周(不超过一个月)主动沟通进展,善于独立思考
参考: http://bicmr.pku.edu.cn/~wenzw/paper/read-paper-wenzw.pdf
● 本研起始时间要求:从选修或旁听凸优化/大数据分析中的算法开始,旁听参加讨论班。计划暑假等出国做科研的同学要求沟通保持课题的延续性。