在线凸优化二十年：Elad Hazan 回顾 OCO 如何塑造现代 AI 核心方法

普林斯顿大学教授 Elad Hazan 撰文回顾在线凸优化（OCO）二十年发展，梳理从 Online Newton Step、AdaGrad 到在线控制与 spectral filtering 的技术脉络。他指出，OCO 形成的 regret minimization 与自适应更新框架已深刻影响现代机器学习，而 AI 越来越擅长定理证明后，选择有意思的问题、创造新框架将更加重要。