牛顿迭代法是求解方程$f(x)=0$的近似根的一种方法。
牛顿法是求解无约束最优化问题$\min f(x)$的最优解的一种方法。
通过正定矩阵近似Hessian矩阵的逆矩阵或Hessian矩阵，简化了计算牛顿法的计算。
牛顿迭代法是求解方程$f(x)=0$的近似根的一种方法。
选用泰勒展开$f(x)=f(x_0)+f'(x_0)(x-x_0)+o(x-x_0)^2$的前两项来近似方程，即
$$ f(x)\approx f(x_0)+f'(x_0)(x-x_0) $$
非线性方程线性化求解$f(x)=0$的近似根 ⟹ $f(x_0)+f'(x_0)(x-x_0)\approx 0$ ⟹ $x\approx x_0-\frac{f(x_0)}{f'(x_0)}$
<aside> <img src="/icons/bookmark_blue.svg" alt="/icons/bookmark_blue.svg" width="40px" /> 牛顿迭代法求$f(x)=0$
$$ x^{(k+1)}=x^{(k)}-\frac{f(x^{(k)})}{f'(x^{(k)})} $$
</aside>
👁️🗨️已经证明：如果$f(x)$是连续的，且待求零点是孤立的，那么在零点附近存在一个区域，只要初始点在这个区域内，那么牛顿法必定收敛，并且有平方收敛的能力。
➣➣牛顿迭代法流程➣➣
牛顿迭代法可看作对原函数的线性逼近
牛顿法是求解无约束最优化问题$\min f(x)$的最优解的一种方法
一维的公式推导（$x\in \mathbb{R}$）
最优化问题$\min f(x)$ ⟹ $g(x)=f'(x)=0$ ⟹ 牛顿迭代法求解$g(x)=0$
⟹ 迭代公式$x^{(k+1)}=x^{(k)}-\frac{g(x^{(k)})}{g'(x^{(k)})}=x^{(k)}-\frac{f'(x^{(k)})}{f''(x^{(k)})}$