Yann
人工智能、计算机、机器学习、linux、程序员
Convex Optimization-8
本节的开始我们先解决带等式约束的可微凸优化问题和带线性不等式约束的可微凸优化问题的两个例子，这应用了两种方法：罚函数与log-barrier方法。
本节开始介绍典型凸优化问题的算法（为了解KKT条件），我们首先指出所有的优化算法都是迭代算法（下降算法），那么我们就要面临找步长的问题，这里我们给出选择步长的几种方法：黄金分割法、Amijo Rule（Backtracking）、梯度下降法、最速下降法和坐标轮换法。
在对算法的收敛性分析中，我们在强凸性的条件下得到了一些很有用的式子。
