├── 0.png ├── 0.tex ├── 1.tex ├── 2.tex ├── 3.tex ├── 4.tex ├── 5.tex ├── 6.tex ├── box.tex ├── exam1.tex ├── exam2.tex ├── exam3.tex ├── main.tex ├── w.tex ├── 常微分方程初值问题的数值解法.tex ├── 插值法与曲线拟合.tex ├── 数值积分与数值微分.tex ├── 期中小测.tex ├── 补充一些填空题.tex ├── 解线性方程组的直接法.tex ├── 解线性方程组的迭代法.tex └── 非线性方程求根.tex /0.png: -------------------------------------------------------------------------------- https://raw.githubusercontent.com/xiaowen1124/Numerical-Analysis-/fdb2f1557f2a6374cab2f677b4a0afcfc79705bd/0.png -------------------------------------------------------------------------------- /0.tex: -------------------------------------------------------------------------------- 1 | 2 | 3 | \begin{tcolorbox}[enhanced,colback=10,colframe=9,breakable,coltitle=green!25!black,title=2024] 4 | 设 $ \boldsymbol{A} \in \mathbf{R}^{n \times n}, \boldsymbol{B} \in \mathbf{R}^{n \times n} $ 均为非奇异矩阵, 证明: 5 | $$ 6 | \left\|\boldsymbol{A}^{-1}-\boldsymbol{B}^{-1}\right\| \leqslant\left\|\boldsymbol{A}^{-1}\right\| \cdot\|\boldsymbol{A}-\boldsymbol{B}\| \cdot\left\|\boldsymbol{B}^{-1}\right\| . 7 | $$ 8 | \tcblower 9 | 由条件得 10 | $$ 11 | \boldsymbol{A}^{-1}-\boldsymbol{B}^{-1}=\boldsymbol{A}^{-1}\left(I-\boldsymbol{A B}^{-1}\right)=\boldsymbol{A}^{-1}(\boldsymbol{B}-\boldsymbol{A}) \boldsymbol{B}^{-1}, 12 | $$ 13 | 两边取范数得 14 | $$ 15 | \left\|\boldsymbol{A}^{-1}-\boldsymbol{B}^{-1}\right\|=\left\|\boldsymbol{A}^{-1}(\boldsymbol{B}-\boldsymbol{A}) \boldsymbol{B}^{-1}\right\| \leqslant\left\|\boldsymbol{A}^{-1}\right\| \cdot\|\boldsymbol{B}-\boldsymbol{A}\| \cdot\left\|\boldsymbol{B}^{-1}\right\| . 16 | $$ 17 | \end{tcolorbox} 18 | 19 | 20 | \begin{tcolorbox}[enhanced,colback=10,colframe=9,breakable,coltitle=green!25!black,title=2024] 21 | 设 $ \boldsymbol{x}^{(k)} \in \mathbf{R}^{n}, k=0,1,2, \cdots, \boldsymbol{x}^{*} \in \mathbf{R}^{n}, \boldsymbol{B} \in \mathbf{R}^{n \times n} $. 22 | 23 | (1) 给出向量序列 $ \boldsymbol{x}^{(k)}(k=0,1,2, \cdots) $ 收敛于向量 $ \boldsymbol{x}^{*} $ 的定义; 24 | 25 | (2) 设 $ \lim\limits _{k \rightarrow \infty} \boldsymbol{x}^{(k)}=\boldsymbol{x}^{*} $, 证明: $ \lim\limits _{k \rightarrow \infty} B \boldsymbol{x}^{(k)}=\boldsymbol{B} \boldsymbol{x}^{*} $. 26 | 27 | \tcblower 28 | 29 | 设 $ \|\cdot\| $ 为 $ \mathbf{R}^{n} $ 中的一种范数. 30 | 31 | (1) 如果 32 | $$ 33 | \lim _{k \rightarrow \infty}\left\|\boldsymbol{x}^{(k)}-x^{*}\right\|=0, 34 | $$ 35 | 则称向量序列 $ \left\{\boldsymbol{x}^{(k)}\right\}_{k=0}^{\infty} $ 收敛于向量 $ \boldsymbol{x}^{*} $. 36 | 37 | (2) 因 $ \lim\limits _{k \rightarrow \infty} x^{(k)}=x^{*} $, 则 $ \lim\limits _{k \rightarrow \infty}\left\|x^{(k)}-x^{*}\right\|=0 $. 又 38 | $$ 39 | \left\|\boldsymbol{B} \boldsymbol{x}^{(k)}-\boldsymbol{B} \boldsymbol{x}^{*}\right\|=\left\|\boldsymbol{B}\left(\boldsymbol{x}^{(k)}-\boldsymbol{x}^{*}\right)\right\| \leqslant\|\boldsymbol{B}\| \cdot\left\|\boldsymbol{x}^{(k)}-\boldsymbol{x}^{*}\right\|, 40 | $$ 41 | 所以 42 | $$ 43 | \begin{aligned} 44 | \lim _{k \rightarrow \infty}\left\|\boldsymbol{B} \boldsymbol{x}^{(k)}-\boldsymbol{B} \boldsymbol{x}^{*}\right\| & \leqslant \lim _{k \rightarrow \infty}\|\boldsymbol{B}\| \cdot\left\|\boldsymbol{x}^{(k)}-\boldsymbol{x}^{*}\right\| \\ 45 | & =\|\boldsymbol{B}\| \lim _{k \rightarrow \infty}\left\|\boldsymbol{x}^{(k)}-\boldsymbol{x}^{*}\right\|=0, 46 | \end{aligned} 47 | $$ 48 | 所以 $ \lim\limits _{k \rightarrow \infty} B \boldsymbol{x}^{(k)}=\boldsymbol{B} \boldsymbol{x}^{*} $. 49 | 50 | \end{tcolorbox} 51 | 52 | 53 | \begin{tcolorbox}[enhanced,colback=10,colframe=9,breakable,coltitle=green!25!black,title=2024] 54 | 设 $ \boldsymbol{A} \in \mathbf{R}^{n \times n} $, 证明: 55 | $$ 56 | \|\boldsymbol{A}\|_{2} \leqslant \sqrt{\|\boldsymbol{A}\|_{1}\|\boldsymbol{A}\|_{\infty}} ; 57 | $$ 58 | \tcblower 59 | 设 $ \lambda $ 是矩阵 $ \boldsymbol{A}^{\mathrm{T}} \boldsymbol{A} $ 的最大特征值, 对应的特征向量为 $ \boldsymbol{y} \neq 0 $, 则有 60 | $$ 61 | \|\boldsymbol{A}\|_{2}=\sqrt{\lambda}, \boldsymbol{A}^{\mathrm{T}} \boldsymbol{A} \boldsymbol{y}=\lambda \boldsymbol{y} . 62 | $$ 63 | 对 $ \boldsymbol{A}^{\mathrm{T}} \boldsymbol{A} \boldsymbol{y}=\lambda \boldsymbol{y} $ 两边取无穷范数, 得 64 | $$ 65 | \lambda\|\boldsymbol{y}\|_{\infty}=\left\|\boldsymbol{A}^{\mathrm{T}} \boldsymbol{A} \boldsymbol{y}\right\|_{\infty} \leqslant\left\|\boldsymbol{A}^{\mathrm{T}}\right\|_{\infty}\|\boldsymbol{A}\|_{\infty}\|\boldsymbol{y}\|_{\infty}=\|\boldsymbol{A}\|_{1}\|\boldsymbol{A}\|_{\infty}\|\boldsymbol{y}\|_{\infty}, 66 | $$ 67 | 即 68 | $$ 69 | \lambda \leqslant\|\boldsymbol{A}\|_{1}\|\boldsymbol{A}\|_{\infty}, 70 | $$ 71 | 因而 72 | $$ 73 | \|\boldsymbol{A}\|_{2} \leqslant \sqrt{\|\boldsymbol{A}\|_{1}\|\boldsymbol{A}\|_{\infty}} . 74 | $$ 75 | 76 | \end{tcolorbox} 77 | 78 | 79 | \begin{tcolorbox}[enhanced,colback=10,colframe=9,breakable,coltitle=green!25!black,title=2024] 80 | 给定线性方程组 $ \boldsymbol{A x}=\boldsymbol{b} $, 这里 $ \boldsymbol{A} \in \mathbf{R}^{n \times n} $ 为非奇异矩阵, $ \boldsymbol{b} \in \mathbf{R}^{n}, \boldsymbol{x} \in \mathbf{R}^{n} $.设有下面的迭代格式: 81 | $$ 82 | \boldsymbol{x}^{(k+1)}=\boldsymbol{x}^{(k)}+\omega\left(\boldsymbol{b}-\boldsymbol{A} \boldsymbol{x}^{(k)}\right), \quad k=0,1,2, \cdots,\quad(*) 83 | $$ 84 | 其中 $ \omega \neq 0 $ 为常数. 85 | 86 | (1) 证明: 如果迭代格式 $(*)$ 收敛, 则迭代序列 $ \left\{\boldsymbol{x}^{(k)}\right\}_{k=0}^{\infty} $ 收敛于方程 $ \boldsymbol{A x}=\boldsymbol{b} $的解; 87 | 88 | (2) 设 $ n=2, \boldsymbol{A}=\left[\begin{array}{ll}4 & 1 \\ 1 & 4\end{array}\right] $, 问 $ \omega $ 取何值时迭代格式 $(*)$ 收敛? 89 | \tcblower 90 | (1) 设迭代格式 $(*)$ 收敛, 不妨设 $ \lim\limits _{k \rightarrow \infty} x^{(k)}=x^{*} $. 在 $(*)$ 式两边取极限得 91 | $$ 92 | \boldsymbol{x}^{*}=\boldsymbol{x}^{*}+\omega\left(\boldsymbol{b}-\boldsymbol{A} \boldsymbol{x}^{*}\right), 93 | $$ 94 | 95 | 由于 $ \omega \neq 0 $, 所以 $ \boldsymbol{b}-\boldsymbol{A} \boldsymbol{x}^{*}=\mathbf{0} $, 即 $ \boldsymbol{x}^{*} $ 是方程 $ \boldsymbol{A x}=\boldsymbol{b} $ 的解. 96 | 97 | (2) 将 $(*)$ 改写为 $ \boldsymbol{x}^{(k+1)}=(\boldsymbol{I}-\omega \boldsymbol{A}) \boldsymbol{x}^{(k)}+\omega \boldsymbol{b} $. 根据迭代法收敛定理可知该迭代格式收敛的充要条件是 $ \rho(\boldsymbol{I}-\omega \boldsymbol{A})<1 $. 迭代矩阵 $ \boldsymbol{I}-\omega \boldsymbol{A} $ 的特征方程是 98 | $$ 99 | |\lambda \boldsymbol{I}-(\boldsymbol{I}-\omega \boldsymbol{A})|=\left|\begin{array}{cc} 100 | \lambda-(1-4 \omega) & \omega \\ 101 | \omega & \lambda-(1-4 \omega) 102 | \end{array}\right|=0, 103 | $$ 104 | 105 | 展开得 106 | $$ 107 | [\lambda-(1-4 \omega)]^{2}-\omega^{2}=0, 108 | $$ 109 | 110 | 求得上述方程的根为 $ \lambda_{1}=1-3 \omega, \lambda_{2}=1-5 \omega $. 111 | 所以 $\rho(\boldsymbol{I}-\omega \boldsymbol{A})=\max \{|1-3 \omega|,|1-5\omega|\} $. 112 | 113 | 令 $ \left|\lambda_{1}\right|<1 $, 则 $ 0<\omega<\frac{2}{3} $; 令 $ \left|\lambda_{2}\right|<1 $,则 $ 0<\omega<\frac{2}{5} $. 故当 $ 0<\omega<\frac{2}{5} $ 时迭代格式 $(*)$ 收敛. 114 | 115 | \end{tcolorbox} 116 | 117 | \begin{tcolorbox}[enhanced,colback=green!10!white,colframe=green!50!white,breakable,coltitle=green!25!black,title=2024] 118 | 1. 解方程 $ 12-3 x+2 \cos x=0 $ 的迭代格式为 $ x_{n+1}=4+\frac{2}{3} \cos x_{n} $. 119 | 120 | (1) 证明: 对任意 $ x_{0} \in \mathbf{R} $, 均有 $ \lim\limits _{n \rightarrow \infty} x_{n}=x^{*} $ ( $ x^{*} $ 为方程的根); 121 | 122 | (2) 此迭代法的收敛阶是多少? 123 | \tcblower 124 | (1) 迭代函数 $ \varphi(x)=4+\frac{2}{3} \cos x $, 对任意 $ x \in \mathbf{R} $ 125 | 126 | $$ 127 | 4-\frac{2}{3} \leqslant 4+\frac{2}{3} \cos x \leqslant 4+\frac{2}{3},\quad x \in(+\infty,-\infty) 128 | $$ 129 | $$ 130 | \varphi(x) \in\left[4-\frac{2}{3}, 4+\frac{2}{3}\right] \subset(-\infty,+\infty) \\ 131 | $$ 132 | 又因为： 133 | $$ 134 | \varphi^{\prime}(x)=-\frac{2}{3} \sin x, \quad L=\max _{-\infty0 $, 写出用 Newton 法解方程 $ x^{2}-a=0 $ 和方程 $ 1-\frac{a}{x^{2}}=0 $的迭代公式, 分别记为 $ x_{k+1}=\varphi_{1}\left(x_{k}\right) $ 和 $ x_{k+1}=\varphi_{2}\left(x_{k}\right) $, 确定常数 $ c_{1} $ 和 $ c_{2} $, 使迭代法 150 | $$ 151 | x_{k+1}=c_{1} \varphi_{1}\left(x_{k}\right)+c_{2} \varphi_{2}\left(x_{k}\right), \quad k=0,1,2, \cdots 152 | $$ 153 | 产生的序列 $ \left\{x_{k}\right\} $ 三阶收敛到 $ \sqrt{a} $. 154 | 155 | \tcblower 156 | 由题意可知, 对于方程 $ x^{2}-a=0 $, 记 $ f_{1}(x)=x^{2}-a $, 则 $ f_{1}^{\prime}(x)=2 x $, 因此该方程的 Newton 法的迭代函数为 157 | $$ 158 | \varphi_{1}(x)=x-\frac{f_{1}(x)}{f_{1}^{\prime}(x)}=\frac{x}{2}+\frac{a}{2 x} 159 | $$ 160 | 161 | 同理对于方程 $ 1-\frac{a}{x^{2}}=0 $, 记 $ f_{2}(x)=1-\frac{a}{x^{2}} $, 则 $ f_{2}^{\prime}(x)=\frac{2 a}{x^{3}} $, 因此该方程的 Newton 法的迭代函数为 162 | $$ 163 | \varphi_{2}(x)=x-\frac{f_{2}(x)}{f_{2}^{\prime}(x)}=\frac{3 x}{2}-\frac{x^{3}}{2 a} 164 | $$ 165 | 这两个函数 Newton 法迭代公式分别是 $ x_{k+1}=\varphi_{1}\left(x_{k}\right) $ 和 $ x_{k+1}=\varphi_{2}\left(x_{k}\right) $, 所以迭代函数 166 | $$ 167 | \varphi(x)=c_{1} \varphi_{1}(x)+c_{2} \varphi_{2}(x)=\frac{c_{1}}{2}\left(x+\frac{a}{x}\right)+\frac{c_{2}}{2}\left(3 x-\frac{x^{3}}{a}\right) 168 | $$ 169 | 且求得 $ \varphi^{\prime}(x)=\frac{c_{1}}{2}\left(1-\frac{a}{x^{2}}\right)+\frac{c_{2}}{2}\left(3-\frac{3 x^{2}}{a}\right), \varphi^{\prime \prime}(x)=\frac{a c_{1}}{x^{3}}-\frac{3 c_{2} x}{a} $, 要使该迭代格式产生的序列 $ \left\{x_{k}\right\} $ 三阶收敛到 $ \sqrt{a} $, 需要满足以下条件 170 | $$ 171 | \varphi(\sqrt{a})=\sqrt{a}, \quad \varphi^{\prime}(\sqrt{a})=0, \quad \varphi^{\prime \prime}(\sqrt{a})=0 172 | $$ 173 | 因此代入可得 174 | $$ 175 | \left\{\begin{array}{l} 176 | \varphi(\sqrt{a})=\left(c_{1}+c_{2}\right) \sqrt{a}=\sqrt{a} \\ 177 | \varphi^{\prime}(x)=\frac{c_{1}}{2}\left(1-\frac{a}{a}\right)+\frac{c_{2}}{2}\left(3-\frac{3 a}{a}\right)=0 \\ 178 | \varphi^{\prime \prime}(\sqrt{a})=\left(c_{1}-3 c_{2}\right) \frac{1}{\sqrt{a}}=0 179 | \end{array}\right. 180 | $$ 181 | 联立解得 $ c_{1}=\frac{3}{4}, c_{2}=\frac{1}{4} $, 所以迭代函数为 182 | $$ 183 | \varphi(x)=\frac{3}{4} \varphi_{1}(x)+\frac{1}{4} \varphi_{2}(x) 184 | $$ 185 | 此时该迭代函数满足 $ \varphi(\sqrt{a})=\sqrt{a}, \varphi^{\prime}(\sqrt{a})=0, \varphi^{\prime \prime}(\sqrt{a})=0 $, 进一步还可验证 $ \varphi^{\prime \prime \prime}(\sqrt{a})=-\frac{3}{a} \neq 0 $, 所以得到了求 $ \sqrt{a} $ 的三阶收敛的迭代公式 186 | $$ 187 | x_{k+1}=\frac{3}{8}\left(x_{k}+\frac{a}{x_{k}}\right)+\frac{1}{8}\left(3 x_{k}-\frac{x_{k}^{3}}{a}\right), \quad k=0,1,2, \cdots 188 | $$ 189 | \end{tcolorbox} 190 | 191 | 192 | \begin{tcolorbox}[enhanced,colback=green!10!white,colframe=green!50!white,breakable,coltitle=green!25!black,title=2024] 193 | 给定方程 $ x+\mathrm{e}^{-x}-4=0 $. 194 | 195 | (1) 分析该方程存在几个根; 196 | 197 | (2) 用迭代法求出这些根 (精确到 4 位有效数字), 并说明所用迭代格式为什么是收敛的. 198 | \tcblower 199 | (1) 记 $ f(x)=x+\mathrm{e}^{-x}-4 $, 则 $ f^{\prime}(x)=1-\mathrm{e}^{-x} $, 令 $ f^{\prime}(x)=0 $ 得 $ x=0 $.当 $ x>0 $ 时 $ f^{\prime}(x)>0 $, 当 $ x<0 $ 时 $ f^{\prime}(x)<0 $, 因此 $ x=0 $ 为 $ f(x) $ 的极小值点. 又 $ f(-2)=\mathrm{e}^{2}-6>0, f(-1)=\mathrm{e}-5<0, f(3)=\mathrm{e}^{-3}-1<0, f(4)=\mathrm{e}^{-4}>0 $, 所以方程 $ f(x)=0 $ 有两个实根 $ x_{1}^{*} \in(3,4), x_{2}^{*} \in(-2,-1) $. 200 | (2) 构造迭代格式: 201 | \begin{equation*} 202 | x_{k+1}=4-\mathrm{e}^{-x_{k}}, \quad k=0,1, \cdots,\tag{1} 203 | \end{equation*} 204 | 205 | 206 | 取初值 $ x_{0}=3.5 $, 计算得 $ x_{1}=3.96980, x_{2}=3.98112, x_{3}=3.98134 $, 所以 $ x_{1}^{*} \approx 3.981 $. 207 | 记 $ \varphi_{1}(x)=4-\mathrm{e}^{-x} $, 则 $ \varphi_{1}^{\prime}(x)=\mathrm{e}^{-x}>0 $. 208 | 当 $ x \in[3,4] $ 时, 有 209 | $$ 210 | \varphi_{1}(x) \in\left[\varphi_{1}(3), \varphi_{1}(4)\right]=\left[4-\mathrm{e}^{-3}, 4-\mathrm{e}^{-4}\right] \subset[3,4], 211 | $$ 212 | 且 $ \left|\varphi_{1}^{\prime}(x)\right| \leqslant \mathrm{e}^{-3}<1 $, 所以迭代格式(1)对任意初值 $ x_{0} \in[3,4] $ 均收敛于 $ x_{1}^{*} $. 213 | 构造迭代格式: 214 | \begin{equation*} 215 | x_{k+1}=-\ln \left(4-x_{k}\right), \quad k=0,1, \cdots,\tag{2} 216 | \end{equation*} 217 | 取 $ x_{0}=-1.5 $, 计算得 $ x_{1}=-1.70475, x_{2}=-1.74130, x_{3}=-1.74769, x_{4}=-1.74880 $, $ x_{5}=-1.74899 $, 所以 $ x_{2}^{*} \approx-1.749 $. 218 | 记 $ \varphi_{2}(x)=-\ln (4-x) $, 则 219 | $$ 220 | \varphi_{2}^{\prime}(x)=\frac{1}{4-x}>0, \quad x \in[-2,-1] . 221 | $$ 222 | 当 $ x \in[-2,-1] $ 时, 有 223 | $$ 224 | \varphi_{2}(x) \in\left[\varphi_{2}(-2), \varphi_{2}(-1)\right]=[-\ln 6,-\ln 5] \subset[-2,-1], 225 | $$ 226 | 且 $ \left|\varphi_{2}^{\prime}(x)\right| \leqslant \frac{1}{5}<1 $, 所以迭代格式(2)对任意 $ x \in[-2,-1] $ 均收敛于 $ x_{2}^{*} $. 227 | \end{tcolorbox} 228 | 229 | 230 | 231 | \begin{tcolorbox}[enhanced,colback=green!10!white,colframe=green!50!white,breakable,coltitle=green!25!black,title=2024] 232 | 233 | 已知方程 $ x^{3}+2 x-1=0 $ 在区间 $ [0,1] $ 上有唯一实根 $ x^{*} $, 证明对任意初值 $ x_{0} \in[0,1] $, 迭代格式 234 | $$ 235 | x_{k+1}=\frac{2 x_{k}^{3}+1}{3 x_{k}^{2}+2}, \quad k=0,1, \cdots 236 | $$ 237 | 均收敛于 $ x^{*} $, 并分析该迭代格式的收敛阶数. 238 | 239 | \tcblower 240 | 方法 1: 方程的 Newton 迭代格式为 241 | $$ 242 | x_{k+1}=x_{k}-\frac{x_{k}^{3}+2 x_{k}-1}{3 x_{k}^{2}+2}=\frac{2 x_{k}^{3}+1}{3 x_{k}^{2}+2} . 243 | $$ 244 | 记 $ f(x)=x^{3}+2 x-1 $, 则 $ f(0) \cdot f(1)=-2<0 $; 当 $ x \in[0,1] $ 时, $ f^{\prime}(x)=3 x^{2}+2>0 $;当 $ x \in(0,1) $ 时, $ f^{\prime \prime}(x)=6 x>0 ; 0-\frac{f(0)}{f^{\prime}(0)}=\frac{1}{2}<1,1-\frac{f(1)}{f^{\prime}(1)}=\frac{3}{5}>0 $. 所以对任意初值 $ x_{0} \in[0,1] $, Newton 迭代收敛于方程在 $ [0,1] $ 中的根. 该迭代格式是 2 阶收敛的. 245 | 246 | 方法 2: 记 $ \varphi(x)=\frac{2 x^{3}+1}{3 x^{2}+2} $, 则原方程可以改写为 $ x=\varphi(x) $. 对 $ \varphi(x) $ 求导得 247 | $$ 248 | \varphi^{\prime}(x)=\frac{6 x\left(x^{3}+2 x-1\right)}{\left(3 x^{2}+2\right)^{2}} . 249 | $$ 250 | 251 | 当 $ x \in[0,1] $ 时, 容易验证 252 | $$ 253 | \left|\varphi^{\prime}(x)\right|<1, \quad 0 \leqslant \varphi(x) \leqslant \frac{2 x^{2}+1}{3 x^{2}+2}<1, 254 | $$ 255 | 256 | 故对任意 $ x_{0} \in[0,1] $, 迭代格式收敛于方程在 $ [0,1] $ 中的根. 又 $ \varphi^{\prime}\left(x^{*}\right)=0, \varphi^{\prime \prime}\left(x^{*}\right) \neq 0 $,所以迭代格式为 2 阶收敛. 257 | \end{tcolorbox} 258 | 259 | 260 | \begin{tcolorbox}[enhanced,colback=blue!8!white,colframe=blue!25!white,breakable,title=2024] 261 | 262 | 设 $ A $ 为 $ n $ 阶非奇异矩阵且有分解式 $ A=L U $, 其中 $ L $ 是单位下三角阵, $ U $ 为上三角阵, 求证 $ A $ 的所有顺序主子式均不为零. 263 | \tcblower 264 | 证明: 由题意可知, 若将 $ A=L U $ 分解式中的 $ L $ 与 $ U $ 分块 265 | $$ 266 | L=\left[\begin{array}{cc} 267 | L_{k \times k} & 0_{k \times(n-k)} \\ 268 | L_{(n-k) \times k} & L_{(n-k) \times(n-k)} 269 | \end{array}\right], \quad U=\left[\begin{array}{cc} 270 | U_{k \times k} & U_{k \times(n-k)} \\ 271 | 0_{(n-k) \times k} & U_{(n-k) \times(n-k)} 272 | \end{array}\right] 273 | $$ 274 | 275 | 其中, $ L_{k \times k} $ 为 $ k $ 阶单位下三角阵, $ U_{k \times k} $ 为 $ k $ 阶上三角阵, 则 $ A $ 的 $ k $ 阶顺序主子式为 $ A_{k}=L_{k \times k} U_{k \times k} $, 又由 $ A $ 为 $ n $ 阶非奇异矩阵, 因此 $ |A|=a_{11}^{(1)} a_{22}^{(2)} \cdots a_{n n}^{(n)} \neq 0 $,则 276 | $$ 277 | \left|A_{k}\right|=\left|L_{k \times k}\right| \cdot\left|U_{k \times k}\right|=a_{11}^{(1)} a_{22}^{(2)} \cdots a_{k k}^{(k)} \neq 0 278 | $$ 279 | 证得 $ A $ 的所有顺序主子式均不为零. 280 | 281 | \end{tcolorbox} 282 | 283 | \begin{tcolorbox}[enhanced,colback=blue!8!white,colframe=blue!25!white,breakable,title=2024] 284 | 285 | 设 $ A \in \mathbf{R}^{n \times n} $ 是对称矩阵, $ \lambda_{1} $ 和 $ \lambda_{n} $ 分别是 $ A $ 的按模最大和按模最小的特征值 $ \left(\lambda_{n} \neq 0\right) $, 则 $ \operatorname{cond}_{2}(A)=\left|\frac{\lambda_{1}}{\lambda_{n}}\right| $. 286 | \tcblower 287 | 证明: 由题意可知 288 | $$ 289 | \operatorname{cond}(A)_{2}=\|A\|_{2} \cdot\left\|A^{-1}\right\|_{2}=\sqrt{\lambda_{\max }\left(A^{\mathrm{T}} A\right)} \cdot \sqrt{\lambda_{\max }\left(\left(A^{-1}\right)^{\mathrm{T}} A^{-1}\right)} 290 | $$ 291 | 由于 $ A \in \mathbf{R}^{n \times n} $ 是对称矩阵, 则 292 | $$ 293 | \operatorname{cond}(A)_{2}=\sqrt{\lambda_{\max }\left(A^{2}\right)} \cdot \sqrt{\lambda_{\max }\left(A^{-1}\right)^{2}}=\frac{\sqrt{\lambda_{\max }\left(A^{2}\right)}}{\sqrt{\lambda_{\min }\left(A^{2}\right)}}=\left|\frac{\lambda_{1}}{\lambda_{n}}\right| 294 | $$ 295 | 其中, $ \lambda_{1} $ 和 $ \lambda_{n} $ 分别是 $ A $ 的按模最大和按模最小的特征值 $ \left(\lambda_{n} \neq 0\right) $. 296 | 297 | \end{tcolorbox} 298 | 299 | 300 | \begin{tcolorbox}[enhanced,colback=blue!8!white,colframe=blue!25!white,breakable,title=2024] 301 | 302 | 已知矩阵 $ A=\left[\begin{array}{ccc}1 & a & a \\ a & 1 & a \\ a & a & 1\end{array}\right] $, 求 $ a $ 为何值时, $ A $ 为正定阵; $ a $ 为何值时对于线性方程组 $ A x=b $, 采用 Jacobi 迭代法和 Gauss-Seidel 迭代法收敛. 303 | \tcblower 304 | 305 | 由题意可知, 为了使 $ A $ 为正定矩阵, 则只需满足顺序主子式 306 | $$ 307 | \begin{array}{l} 308 | \Delta_{1}=1>0, \quad \Delta_{2}=\left|\begin{array}{cc} 309 | 1 & a \\ 310 | a & 1 311 | \end{array}\right|=1-a^{2}>0 ,\quad 312 | \Delta_{3}=\left|\begin{array}{lll} 313 | 1 & a & a \\ 314 | a & 1 & a \\ 315 | a & a & 1 316 | \end{array}\right|=(2 a+1)(a-1)^{2}>0 317 | \end{array} 318 | $$ 319 | 因此解得 $ -\frac{1}{2}2 $. 因此当 $ |a|>2 $时,原方程组 Jacobi 迭代格式收敛. 213 | 214 | 215 | \end{tcolorbox} 216 | 217 | 218 | \begin{tcolorbox}[breakable, 219 | colframe=white!10!jingga, coltitle=white!90!jingga, colback=white!95!jingga, coltext=black, colbacktitle=white!10!jingga, enhanced, fonttitle=\bfseries,fontupper=\normalsize, attach boxed title to top left={yshift=-2mm}, before skip=8pt, after skip=8pt, 220 | title=解答题] 221 | 222 | 利用非线性方程迭代方法求根的思想， 证明 223 | $ 224 | \sqrt{2+\sqrt{2+\sqrt{2+\cdots}}}=2 225 | $ 226 | 227 | \tcblower 228 | 229 | 首先建立迭代公式. 令 230 | $$ 231 | x_{k}=\sqrt{2+\sqrt{2+\sqrt{2+\cdots}}} 232 | $$ 233 | 则有迭代公式 234 | $$ 235 | \left\{\begin{array}{l} 236 | x_{k+1}=\sqrt{2+x_{k}}, \quad k=0,1,2, \cdots \\ 237 | x_{0}=0 238 | \end{array}\right. 239 | $$ 240 | 其中迭代函数 241 | $$ 242 | \varphi(x)=\sqrt{2+x}, \quad \varphi^{\prime}(x)=\frac{1}{2 \sqrt{2+x}} 243 | $$ 244 | 显然当 $ x \in[0,2] $ 时 $\varphi(x) \in[\sqrt{2},2]\subset[0,2] $, 且成立 245 | $$ 246 | \max_{x\in[0,2]}\left|\varphi^{\prime}(x)\right| =|\varphi(0)|= \frac{1}{2 \sqrt{2}}<1 247 | $$ 248 | 因此这一迭代过程收敛于方程$x^{2}-x-2=0$的正根 $ x^{*}=2 $. 249 | \end{tcolorbox} 250 | 251 | 252 | 253 | 254 | \begin{tcolorbox}[breakable, 255 | colframe=white!10!jingga, coltitle=white!90!jingga, colback=white!95!jingga, coltext=black, colbacktitle=white!10!jingga, enhanced, fonttitle=\bfseries,fontupper=\normalsize, attach boxed title to top left={yshift=-2mm}, before skip=8pt, after skip=8pt, 256 | title=解答题] 257 | 258 | 用梯形方法解初值问题 $ \left\{\begin{array}{l}y^{\prime}+y=0 \\ y(0)=1\end{array}\right. $. 证明其近似解为 $ y_{n}=\left(\frac{2-h}{2+h}\right)^{n} $, 并证明: 当 $ h \rightarrow 0 $ 时, 它收敛于原初值问题的精确解 $ y=e^{-x} $. 259 | 260 | \tcblower 261 | 262 | 梯形方法是一个数值解常微分方程的方法，其迭代格式为： 263 | $$ y_{n+1} = y_n + \frac{h}{2}(f(x_n, y_n) + f(x_{n+1}, y_{n+1})) $$ 264 | 其中，$ h $ 是步长，$ f(x, y) $ 是微分方程 $ y' = f(x, y) $ 中的右端函数. 265 | 266 | 对于给定的初值问题 $ \left\{\begin{array}{l}y^{\prime}+y=0 \\ y(0)=1\end{array}\right. $，我们有 $ f(x, y) = -y $.将其代入梯形方法的迭代格式中，得到： 267 | $$ y_{n+1} = y_n + \frac{h}{2}(-y_n - y_{n+1}) $$ 268 | 整理得到：$ y_{n+1} = \frac{2-h}{2+h}y_n $. 于是 269 | $$ 270 | y_{n+1}=\left(\frac{2-h}{2+h}\right) y_{n}=\left(\frac{2-h}{2+h}\right)^{2} y_{n-1}=\cdots=\left(\frac{2-h}{2+h}\right)^{n+1} y_{0} 271 | $$ 272 | 因此，我们证明了 $ y_{n}=\left(\frac{2-h}{2+h}\right)^{n} $ 是给定初值问题的近似解. 273 | 274 | 因为 $ y_{0}=1 $, 故 275 | $$ 276 | y_{n}=\left(\frac{2-h}{2+h}\right)^{n} 277 | $$ 278 | 279 | 对于给定的步长 $ h $，经过 $ n $ 步运算后，我们可以得到 $ y(x) $ 的近似值 $ y_n$.在每一步中，我们都会在 $ x $ 的位置上进行计算，因此总共进行 $ n $ 步运算后，我们得到的 $ x $ 的取值为 $ x = nh $.即 $ n=\dfrac{x}{h} $, 代入上式有: 280 | $$ 281 | \begin{aligned} 282 | y_{n}&=\left(\frac{2-h}{2+h}\right)^{\frac x h} \\ 283 | \lim _{h \rightarrow 0} y_{n}&=\lim _{h \rightarrow 0}\left(\frac{2-h}{2+h}\right)^{\frac{x}{h}}=\lim _{h \rightarrow 0}\left(1-\frac{2 h}{2+h}\right)^{\frac{x}{h}} \\ 284 | &=\lim _{h \rightarrow 0}\left[\left(1-\frac{2 h}{2+h}\right)^{\frac{2+h}{2 h}}\right]^{\frac{2 h}{2+h}\cdot \frac{x}{h}}=\mathrm{e}^{-x} 285 | \end{aligned} 286 | $$ 287 | 因此，当 $ h \rightarrow 0 $ 时，$ y_{n}=\left(\frac{2-h}{2+h}\right)^{n} $ 收敛于原初值问题的精确解 $ y=e^{-x} $. 288 | \end{tcolorbox} 289 | 290 | 291 | \begin{tcolorbox}[breakable, 292 | colframe=white!10!jingga, coltitle=white!90!jingga, colback=white!95!jingga, coltext=black, colbacktitle=white!10!jingga, enhanced, fonttitle=\bfseries,fontupper=\normalsize, attach boxed title to top left={yshift=-2mm}, before skip=8pt, after skip=8pt, 293 | title=解答题] 294 | 295 | 296 | 已知求解线性方程组 $ \boldsymbol{A x}=\boldsymbol{b} $ 的迭代格式: 297 | $$ 298 | x_{i}^{(k+1)}=x_{i}^{(k)}+\frac{\mu}{a_{i i}}\left(b_{i}-\sum_{j=1}^{n} a_{i j} x_{j}^{(k)}\right), i=1,2, \ldots n 299 | $$ 300 | (1) 求此迭代法的迭代矩阵 $ \boldsymbol{M}(\boldsymbol{A}=\boldsymbol{D}-\boldsymbol{L}-\boldsymbol{U}) $ ； 301 | 302 | (2) 当 $ A $ 是严格行对角占优矩阵, $ {\mu}={0 . 5} $ 时, 给出 $ \|\boldsymbol{M}\|_{\infty} $ 表达式, 并证明此时迭代格式收敛. 303 | 304 | \tcblower 305 | 306 | (1) 要求迭代矩阵 $ M $ ，我们首先需要明确分解系数矩阵 $ \boldsymbol{A} $ 为 $ \boldsymbol{D}-\boldsymbol{L}-\boldsymbol{U} $ ，其中 $ \boldsymbol{D} $ 是 $ \boldsymbol{A} $ 的对角部分， $ \boldsymbol{L} $ 是严格下三角部分 (所有上三角元素为0)， $ \boldsymbol{U} $ 是严格上三角部分（所有下三角元素为 $ 0) $ . 307 | 308 | 将迭代格式重写为更符合矩阵运算的形式: 309 | $$ 310 | \boldsymbol{x}^{(k+1)}=\boldsymbol{x}^{(k)}+\mu \boldsymbol{D}^{-1}\left(\boldsymbol{b}-\boldsymbol{A} \boldsymbol{x}^{(k)}\right) 311 | $$ 312 | 展开后得到： 313 | $$ 314 | \boldsymbol{x}^{(k+1)}=(\boldsymbol{I}-\mu \boldsymbol{D}^{-1}\boldsymbol{A})\boldsymbol{x}^{(k)}+\mu \boldsymbol{D}^{-1}\boldsymbol{b} 315 | $$ 316 | 因此$\boldsymbol{M}=\boldsymbol{I}-\mu \boldsymbol{D}^{-1}\boldsymbol{A}$. 317 | 318 | 319 | (2) 将 $ \boldsymbol{A}=\boldsymbol{D}-\boldsymbol{L}-\boldsymbol{U} $ 代入$\boldsymbol{M}$得： 320 | $$ 321 | \begin{aligned} 322 | \boldsymbol{M}&=\boldsymbol{I}-\mu \boldsymbol{D}^{-1}(\boldsymbol{D}-\boldsymbol{L}-\boldsymbol{U}) \\ 323 | &=\boldsymbol{I}-\mu \boldsymbol{D}^{-1} \boldsymbol{D}+\mu \boldsymbol{D}^{-1}(\boldsymbol{L}+\boldsymbol{U})\\ 324 | &=I-\mu I+\mu \boldsymbol{D}^{-1}(\boldsymbol{D}-\boldsymbol{A}) \\ 325 | &=(1-\mu) \boldsymbol{I}+\mu( \boldsymbol{I}-\boldsymbol{D}^{-1}\boldsymbol{A}) 326 | \end{aligned} 327 | $$ 328 | 其中矩阵 329 | $$ 330 | \boldsymbol{I}-\boldsymbol{D}^{-1} \boldsymbol{A}=\left(\begin{array}{cccc} 331 | 0 & -\frac{a_{12}}{a_{11}} & \cdots & -\frac{a_{1 n}}{a_{11}} \\ 332 | -\frac{a_{21}}{a_{22}} & 0 & \cdots & -\frac{a_{2 n}}{a_{22}} \\ 333 | \vdots & \vdots & & \vdots \\ 334 | -\frac{a_{n 1}}{a_{n n}} & -\frac{a_{n 2}}{a_{n n}} & \cdots & 0 335 | \end{array}\right) 336 | $$ 337 | 338 | 由$\boldsymbol{A}$是严格行对角占优知 339 | $$ 340 | \left\|\boldsymbol{I}-\boldsymbol{D}^{-1} \boldsymbol{A}\right\|_{\infty}=\max _{1 \leqslant i \leqslant n} \sum_{\substack{j=1 \\ j \neq i}} \frac{\left|a_{i j}\right|}{\left|a_{i i}\right|}=\max _{1 \leqslant i \leqslant n} \frac{\sum\limits_{\substack{j=1 \\ j \neq i}}^{n}\left|a_{i j}\right|}{\left|a_{i i}\right|}<1 341 | $$ 342 | 当$ {\mu}={0 . 5} $ 时 343 | $$\|\boldsymbol{M}\|_{\infty}=\|\frac12\boldsymbol{I} +\frac12( \boldsymbol{I}-\boldsymbol{D}^{-1}\boldsymbol{A}) \|_{\infty}$$ 344 | 再由范数的的齐次性及三角不等式可得： 345 | $$\|\boldsymbol{M}\|_{\infty}=\|\frac12\boldsymbol{I} +\frac12( \boldsymbol{I}-\boldsymbol{D}^{-1}\boldsymbol{A}) \|_{\infty}\leqslant \frac12 \|I\|_{\infty}+\frac12 \|\boldsymbol{I}-\boldsymbol{D}^{-1}\boldsymbol{A}\|_{\infty}<\frac 12\cdot1+\frac 12\cdot1=1$$ 346 | 此时迭代格式收敛得证. 347 | 348 | \begin{tcolorbox}[breakable,title=Jacobi 松弛法] 349 | 上面的问题实质上是对Jacobi 迭代法引进迭代参数以此加快迭代速度，与Gauss-Seidel方法(SOR)类似, 相比之下Jacobi 的松弛法更加简单. 350 | 351 | 若求解$\boldsymbol{Ax=b}$的Jacobi 方法收敛，则Jacobi 松弛法收敛的充分必要条件是$\rho(\boldsymbol{I}-\mu \boldsymbol{D}^{-1}\boldsymbol{A})<1$. 352 | $$ 353 | \boldsymbol{x}^{(k+1)}=(\boldsymbol{I}-\mu \boldsymbol{D}^{-1}\boldsymbol{A})\boldsymbol{x}^{(k)}+\mu \boldsymbol{D}^{-1}\boldsymbol{b} 354 | $$ 355 | 下面证明对任意$0<\mu\leqslant1$都有Jacobi 松弛法收敛. 356 | 357 | 358 | 证明： 令 $ \lambda_{j}, \lambda_{j}^{'}(j=1, \cdots, n) $ 分别为 $ I-D^{-1} A $ 和 $ I-\mu D^{-1} A $ 的特征值. 由 359 | $$ 360 | I-\mu D^{-1} A=\mu\left(I-D^{-1} A\right)+(1-\mu) I 361 | $$ 362 | 可以导出 363 | $$ 364 | \lambda_{j}^{'}=\mu \lambda_{j}+(1-\mu) . 365 | $$ 366 | 367 | 令 $ \lambda_{j}=r_{j} \mathrm{e}^{\mathrm{i} \theta_{j}} $, 则由 Jacobi 方法收敛的假设可知 $ r_{j}<1 $. 于是对 $ 0<\mu \leqslant 1 $ 有 368 | $$ 369 | \left|\lambda_{j}^{'}\right|^{2}=\left|\mu r_{j} \mathrm{e}^{\mathrm{i} \theta_{j}}+1-\mu\right|^{2} \leqslant\left(1-\mu+\mu r_{j}\right)^{2}<1, 370 | $$ 371 | 所以 Jacobi 松弛法收敛. 证毕. 372 | \end{tcolorbox} 373 | 374 | 375 | 376 | \end{tcolorbox} 377 | 378 | 379 | 380 | 381 | 382 | 383 | \begin{tcolorbox}[breakable, 384 | colframe=white!10!jingga, coltitle=white!90!jingga, colback=white!95!jingga, coltext=black, colbacktitle=white!10!jingga, enhanced, fonttitle=\bfseries,fontupper=\normalsize, attach boxed title to top left={yshift=-2mm}, before skip=8pt, after skip=8pt, 385 | title=解答题] 386 | 387 | 388 | 389 | 390 | 求一个次数不超过 4 次的插值多项式 $ p(x) $, 使它满足: 391 | $$ 392 | \begin{array}{l} 393 | p(0)=f(0)=0, p(1)=f(1)=1, p^{\prime}(0)=f^{\prime}(0)=0, \\ 394 | p^{\prime}(1)=f^{\prime}(1)=1, p^{\prime \prime}(1)=f^{\prime \prime}(1)=0 395 | \end{array} 396 | $$ 397 | 并求其余项表达式（设 $ f(x) $ 存在 5 阶导数）. 398 | \tcblower 399 | 400 | 为了找到一个次数不超过 4 次的插值多项式 $p(x)$，我们可以利用这些插值条件来构建插值多项式. 401 | 402 | 设 $p(x) = ax^4 + bx^3 + cx^2 + dx + e$，我们需要找到参数 $a, b, c, d, e$ 来满足给定的插值条件.根据插值条件，我们有： 403 | $$ 404 | \begin{cases} 405 | p(0) = e = 0 \\ 406 | p(1) = a + b + c + d + e = 1 \\ 407 | p'(0) = d = 0 \\ 408 | p'(1) = 4a + 3b + 2c + d = 1 \\ 409 | p''(1) = 12a + 6b + 2c = 0 410 | \end{cases} 411 | $$ 412 | 解这个方程组，可以得到 $a = 1$，$b = -3$，$c = 3$，$d = 0$，$e = 0$. 413 | 因此，插值多项式为 $p(x) = x^4 -3x^3 +3x^2$. 414 | 415 | 由于$ f(x) $ 在区间$[0,1]$存在 5 阶导数，且注意到$x=0$为二重节点，$x=1$为三重节点.故插值余项为 416 | $$R(x) = f(x) - p(x)=\frac{1}{5 !} f^{(5)}(\xi) x^{2}(x-1)^{3}, \xi \in[0,1]$$ 417 | 418 | 419 | \end{tcolorbox} 420 | 421 | 422 | \begin{tcolorbox}[breakable, 423 | colframe=white!10!jingga, coltitle=white!90!jingga, colback=white!95!jingga, coltext=black, colbacktitle=white!10!jingga, enhanced, fonttitle=\bfseries,fontupper=\normalsize, attach boxed title to top left={yshift=-2mm}, before skip=8pt, after skip=8pt, 424 | title=解答题] 425 | 426 | 427 | 设$ A $ 为 $ n $ 阶方阵，证明: 428 | 429 | (1) 矩阵级数 $ \sum\limits_{{k}=0}^{\infty} \frac{1}{{k} !} {A}^{{k}} $ 收敛; 430 | 431 | (2) 设上述级数和为 $ \mathrm{e}^{{A}} $ ，如果 $ \lambda $ 为 $ {A} $ 的一个特征值，证明 $ \mathrm{e}^{\lambda} $ 为 $ e^{A} $ 的特征值. 432 | 433 | \tcblower 434 | 435 | (1) $e^{z}=\sum\limits_{k=0}^{\infty}\frac{1}{{k} !} z^k=1+z+\frac{z^{2}}{2 !}+\frac{z^{3}}{3 !}+\cdots $ 是收敛半径 $ R=+\infty $ 的幂级数，幂级数绝对收敛 436 | 437 | 易知, $ \sum\limits_{k=0}^{\infty} \frac{x^{k}}{k !} $ 是 $ f(x)=e^{x} $ 的展开式, 因为$ \frac{a_{k+1}}{a_{k}}=\frac{\frac{1}{(k+1) !}}{\frac{1}{k !}}=\frac{1}{(k+1)} \rightarrow 0(k \rightarrow \infty), $ 所以收敛半径 $ R=+\infty $ . 438 | 显然方阵$A$的谱半径$\rho(A)0$,使得$\rho(A)+\varepsilon0 $ 时, 根据 $ f(x) \leq|f(x)| \leq f(x_0) $ 可知 $ f(x_0) $ 为 $ f(x) $ 在 $ [a, b] $ 上的最大值; 当 $ f(x_0)<0 $ 时, 根据 $ -f(x) \leq|f(x)| \leq-f(x_0) $ 可知 $ f(x) \geq f(x_0) $, 即 $ f(x_0) $ 为 $ f(x) $ 在 $ [a, b] $ 上的最小值. 总而言之, $ f(x_0) $ 必定为 $ f(x) $ 的最值, 再结合 $ x_0 \in(a, b) $, 就有 $ f^{\prime}(x_0)=0 $. 513 | 514 | 利用带 Lagrange 余项的 Taylor 公式将 $ f(x) $ 在点 $ x_{0} $ 展开： 515 | $$ 516 | \begin{array}{l} 517 | 0=f(a)=f\left(x_{0}\right)+f^{\prime}\left(x_{0}\right)\left(a-x_{0}\right)+\frac{1}{2} f^{\prime \prime}(\xi)\left(a-x_{0}\right)^{2}, \xi \in\left(a, x_{0}\right), \\ 518 | 0=f(b)=f\left(x_{0}\right)+f^{\prime}\left(x_{0}\right)\left(b-x_{0}\right)+\frac{1}{2} f^{\prime \prime}(\eta)\left(b-x_{0}\right)^{2}, \eta \in\left(x_{0}, b\right), 519 | \end{array} 520 | $$ 521 | 522 | 将 $f^{\prime}\left(x_{0}\right)=0 $ 代入上面两式, 并进行如下讨论 523 | 524 | 若 $ a0 $ . 50 | 给定 $ \boldsymbol{A}=\boldsymbol{L} \boldsymbol{L}^{\boldsymbol{T}} $ ，我们有: 51 | $ \boldsymbol{x}^{T} A \boldsymbol{x}=\boldsymbol{x}^{T} L L^{T} x $ 52 | 53 | 令 $ \boldsymbol{y}=\boldsymbol{L}^{\boldsymbol{T}} \boldsymbol{x} $ ，因为 $ \boldsymbol{L} $ 是非奇异的，所以$\boldsymbol{y} $ 是一个非零向量，这意味着 $ \boldsymbol{L} $ 和 $ \boldsymbol{L}^{\boldsymbol{T}} $ 有满秩.因此: 54 | $$ 55 | \boldsymbol{x}^{\boldsymbol{T}} \boldsymbol{A} \boldsymbol{x}=\boldsymbol{y}^{\boldsymbol{T}} \boldsymbol{y}=\sum_{i=1}^{n} y_{i}^{2} 56 | $$ 57 | 58 | 由于 $ \boldsymbol{y} $ 是非零向量，上式表明 $ \boldsymbol{x}^{\boldsymbol{T}} \boldsymbol{A} \boldsymbol{x} $ 是向量 $ \boldsymbol{y} $ 各分量平方和，显然大于0.因此， $ \boldsymbol{A} $ 是正定的. 59 | 60 | 综上所述，若矩阵 $ \boldsymbol{A}=\boldsymbol{L} \boldsymbol{L}^{\boldsymbol{T}} $ ，其中 $ \boldsymbol{L} $ 是一个非奇异的实下三角矩阵，那么 $ \boldsymbol{A} $ 必然是对称的且正定的. 61 | \end{tcolorbox} 62 | 63 | 64 | \begin{tcolorbox}[breakable, 65 | colframe=white!10!jingga, coltitle=white!90!jingga, colback=white!95!jingga, coltext=black, colbacktitle=white!10!jingga, enhanced, fonttitle=\bfseries,fontupper=\normalsize, attach boxed title to top left={yshift=-2mm}, before skip=8pt, after skip=8pt, 66 | title=解答题] 67 | 68 | 证明: 当 $ x_{0}=1.5 $ 时, 迭代法 $ {x}_{{k}+1}=\sqrt{\frac{8}{3+{x}_{{k}}}} $ 收敛于方程 $ f(x)=x^{3}+3 x^{2}-8=0 $ 在区间 $ [1,2] $ 内唯一实根 $ x^{*} $ 69 | \tcblower 70 | （1）函数等价性:原方程 $ f(x) = x^3 + 3x^2 - 8 = 0 $ 可以变形为： 71 | $x^2(x + 3) = 8 \Rightarrow x = \sqrt{\frac{8}{x + 3}}$, 72 | 这说明 $ x = \varphi(x) $ 与 $ f(x) = 0 $ 是等价的. 73 | 74 | （2）$\varphi(x)$是单调递减的，于是有 $1<\sqrt{\frac{8}{3+2}}=\varphi(2) \leqslant \varphi(x) \leqslant \varphi(1)=\sqrt{\frac{8}{3+1}}<2 $, 因此 $\varphi(x) \in[1,2]$. 75 | 76 | 77 | （3）计算 $ \varphi(x) $ 的导数，以验证迭代函数的局部收敛性： 78 | $$ \varphi'(x) = -\frac{1}{2} \cdot \frac{8}{(3+x)^2} \cdot \frac{1}{\sqrt{\frac{8}{3+x}}}= -\frac{4}{(3+x)^{\frac{3}{2}}} \cdot \frac{\sqrt{3+x}}{\sqrt{8}} = -\frac{4 \sqrt{3+x}}{(3+x)^{\frac{3}{2}} \sqrt{8}} = -\sqrt{2} \cdot (3+x)^{-\frac{3}{2}} $$ 79 | 80 | 对 $ x $ 在 $[1, 2]$ 上的范围进行最大值估计： 81 | $$ \max_{1 \leqslant x \leqslant 2} |\varphi'(x)| = \max_{1 \leqslant x \leqslant 2} \left|\sqrt{2}(3+x)^{-\frac{3}{2}}\right| = \sqrt{2} \cdot 4^{-\frac{3}{2}} = \frac{\sqrt{2}}{8}<1 $$ 82 | 这表明 $ \varphi(x) $ 是区间 $[1, 2]$ 上的压缩映射. 83 | 84 | 由于 $ \varphi(x) $ 在 $[1, 2]$ 上是单调递减的，映射到自身，并且其导数的绝对值小于 1，根据压缩映射定理和迭代函数的性质，迭代序列 $ \left\{x_k\right\} $ 收敛于方程 $ f(x) = x^3 + 3x^2 - 8 = 0 $ 在 $[1, 2]$ 区间内的唯一实根 $ x^* $. 85 | 86 | \end{tcolorbox} 87 | 88 | \begin{tcolorbox}[breakable, 89 | colframe=white!10!jingga, coltitle=white!90!jingga, colback=white!95!jingga, coltext=black, colbacktitle=white!10!jingga, enhanced, fonttitle=\bfseries,fontupper=\normalsize, attach boxed title to top left={yshift=-2mm}, before skip=8pt, after skip=8pt, 90 | title=解答题] 91 | 92 | 1. 设 $ A \in R^{n \times n} $ 的特征值为 $ \lambda_{i}(i=1,2, \cdots, n) $, 若 $ \rho(A)=\max\limits _{1\leqslant i\leqslant n}\left|\lambda_{i}\right| $ 93 | 证明: $ \rho(A) \leqslant \|A\|, \quad(\|\cdot \| $ 为矩阵 $A$ 的任何一种范数） 94 | \tcblower 95 | 证 \; 设 $ \lambda $ 为 $ \boldsymbol{A} $ 的任一特征值, $ x $ 为对应于 $ \lambda $ 的 $ \boldsymbol{A} $ 的特征向量, 即 96 | $$ 97 | A x=\lambda x \quad(x \neq 0) 98 | $$ 99 | 由范数的性质, 有 100 | $$ 101 | |\lambda|\|x\|=\|\lambda x\|=\|A x\| \leqslant\|A\| x \| 102 | $$ 103 | 由于 $ x $ 是非零向量, 故有 104 | $$ 105 | |\lambda| \leqslant\|\boldsymbol{A}\| 106 | $$ 107 | 这表明 $ \boldsymbol{A} $ 的任一特征值的模不超过 $ \|\boldsymbol{A}\| $, 于是 108 | $$ 109 | \rho(\boldsymbol{A}) \leqslant\|\boldsymbol{A}\| 110 | $$ 111 | \end{tcolorbox} 112 | 113 | 114 | \begin{tcolorbox}[breakable, 115 | colframe=white!10!jingga, coltitle=white!90!jingga, colback=white!95!jingga, coltext=black, colbacktitle=white!10!jingga, enhanced, fonttitle=\bfseries,fontupper=\normalsize, attach boxed title to top left={yshift=-2mm}, before skip=8pt, after skip=8pt, 116 | title=解答题] 117 | 118 | 2. 确定求积公式中的待定参数, 使其代数精度尽量高 119 | $$ 120 | \int_{0}^{h} f(x) d x \approx \frac{h}{2}[f(0)+f(h)]+\alpha h^{2}\left[f^{\prime}(0)-f^{\prime}(h)\right] 121 | $$ 122 | 123 | \tcblower 124 | 求积公式中含有一个待定参数 $ \alpha $, 当 $ f(x)=1, x $ 时, 有 125 | $$ 126 | \begin{array}{c} 127 | \displaystyle\int_{0}^{h} \mathrm{~d} x \equiv \frac{h}{2}[1+1]+0 \\ 128 | \displaystyle\int_{0}^{h} x \mathrm{~d} x \equiv \frac{h}{2}[0+h]+\alpha h^{2}[1-1] 129 | \end{array} 130 | $$ 131 | 故令求积公式对 $ f(x)=x^{2} $ 精确成立, 即 132 | $$ 133 | \int_{0}^{h} x^{2} \mathrm{~d} x=\frac{h}{2}\left[0+h^{2}\right]+\alpha h^{2}[2 \times 0-2 h] 134 | $$ 135 | 解之得 136 | $$ 137 | \alpha=\frac{1}{12} 138 | $$ 139 | 显然 140 | $$ 141 | \begin{array}{l} 142 | \displaystyle\int_{0}^{h} x^{3} \mathrm{~d} x=\frac{h}{2}\left[0+h^{3}\right]+\frac{h^{2}}{12}\left[0-3 h^{2}\right] \\ 143 | \displaystyle\int_{0}^{h} x^{4} \mathrm{~d} x \neq \frac{h}{2}\left[0+h^{4}\right]+\frac{h^{2}}{12}\left[0-4 h^{3}\right] 144 | \end{array} 145 | $$ 146 | 故求积公式 147 | $ 148 | \displaystyle\int_{0}^{h} f(x) \mathrm{d} x \approx \frac{h}{2}[f(0)+f(h)]+\frac{h^{2}}{12}\left[f^{\prime}(0)-f^{\prime}(h)\right] 149 | $ 150 | 具有三次代数精确度. 151 | \end{tcolorbox} 152 | 153 | 154 | 155 | \begin{tcolorbox}[breakable, 156 | colframe=white!10!jingga, coltitle=white!90!jingga, colback=white!95!jingga, coltext=black, colbacktitle=white!10!jingga, enhanced, fonttitle=\bfseries,fontupper=\normalsize, attach boxed title to top left={yshift=-2mm}, before skip=8pt, after skip=8pt, 157 | title=解答题] 158 | 159 | 1. 用梯形方法解初值问题 $ \left\{\begin{array}{c}y^{\prime}+y=0 \\ y(0)=1\end{array}\right. $ 证明其近似解为 $ y_{n}=\left(\frac{2-h}{2+h}\right)^{n} $, 并证明: 当 $ h \rightarrow 0 $ 时, 它收敛于原初始问题的精确解 $ y=e^{-x} $ 160 | \tcblower 161 | 梯形方法是一个数值解常微分方程的方法，其迭代格式为： 162 | $$ y_{n+1} = y_n + \frac{h}{2}(f(x_n, y_n) + f(x_{n+1}, y_{n+1})) $$ 163 | 其中，$ h $ 是步长，$ f(x, y) $ 是微分方程 $ y' = f(x, y) $ 中的右端函数. 164 | 165 | 对于给定的初值问题 $ \left\{\begin{array}{l}y^{\prime}+y=0 \\ y(0)=1\end{array}\right. $，我们有 $ f(x, y) = -y $.将其代入梯形方法的迭代格式中，得到： 166 | $$ y_{n+1} = y_n + \frac{h}{2}(-y_n - y_{n+1}) $$ 167 | 整理得到：$ y_{n+1} = \frac{2-h}{2+h}y_n $. 于是 168 | $$ 169 | y_{n+1}=\left(\frac{2-h}{2+h}\right) y_{n}=\left(\frac{2-h}{2+h}\right)^{2} y_{n-1}=\cdots=\left(\frac{2-h}{2+h}\right)^{n+1} y_{0} 170 | $$ 171 | 因此，我们证明了 $ y_{n}=\left(\frac{2-h}{2+h}\right)^{n} $ 是给定初值问题的近似解. 172 | 173 | %另一方面，对$\forall x>0$, 以 $h$ 为步长经过 $n$ 步运算可求得$y(x_n)$的近似值 $y_n$,所以$x=nh,n=\frac xh$. 174 | 因为 $ y_{0}=1 $, 故 175 | $$ 176 | y_{n}=\left(\frac{2-h}{2+h}\right)^{n} 177 | $$ 178 | 179 | 对于给定的步长 $ h $，经过 $ n $ 步运算后，我们可以得到 $ y(x) $ 的近似值 $ y_n$.在每一步中，我们都会在 $ x $ 的位置上进行计算，因此总共进行 $ n $ 步运算后，我们得到的 $ x $ 的取值为 $ x = nh $.即 $ n=\dfrac{x}{h} $, 代入上式有: 180 | $$ 181 | \begin{aligned} 182 | y_{n}&=\left(\frac{2-h}{2+h}\right)^{\frac x h} \\ 183 | \lim _{h \rightarrow 0} y_{n}&=\lim _{h \rightarrow 0}\left(\frac{2-h}{2+h}\right)^{\frac{x}{h}}=\lim _{h \rightarrow 0}\left(1-\frac{2 h}{2+h}\right)^{\frac{x}{h}} \\ 184 | &=\lim _{h \rightarrow 0}\left[\left(1-\frac{2 h}{2+h}\right)^{\frac{2+h}{2 h}}\right]^{\frac{2 h}{2+h}\cdot \frac{x}{h}}=\mathrm{e}^{-x} 185 | \end{aligned} 186 | $$ 187 | 因此，当 $ h \rightarrow 0 $ 时，$ y_{n}=\left(\frac{2-h}{2+h}\right)^{n} $ 收敛于原初值问题的精确解 $ y=e^{-x} $. 188 | \end{tcolorbox} 189 | 190 | 191 | 192 | \begin{tcolorbox}[breakable, 193 | colframe=white!10!jingga, coltitle=white!90!jingga, colback=white!95!jingga, coltext=black, colbacktitle=white!10!jingga, enhanced, fonttitle=\bfseries,fontupper=\normalsize, attach boxed title to top left={yshift=-2mm}, before skip=8pt, after skip=8pt, 194 | title=解答题] 195 | 196 | 197 | 2. 设方程组 $ \left\{\begin{array}{l}a_{11} x_{1}+a_{12} x_{2}=b_{1} \\ a_{21} x_{1}+a_{22} x_{2}=b_{2}\end{array}, a_{11} a_{22} \neq 0\right. $. 198 | 求证: 用 Jacobi 迭代法与 G-S 迭代法解此方程组 199 | 收敛的充要条件为 $\left|\dfrac{a_{12} a_{21}}{a_{11} a_{22}}\right|<1 ;$ 200 | 201 | \tcblower 202 | 203 | 由题意可知, Jacobi 迭代法的迭代矩阵 204 | $$ 205 | B_{J}=D^{-1}(L+U)=\left[\begin{array}{cc} 206 | a_{11} & 0 \\ 207 | 0 & a_{22} 208 | \end{array}\right]^{-1}\left[\begin{array}{cc} 209 | 0 & -a_{12} \\ 210 | -a_{21} & 0 211 | \end{array}\right]=\left[\begin{array}{cc} 212 | 0 & -\frac{a_{12}}{a_{11}} \\ 213 | -\frac{a_{21}}{a_{22}} & 0 214 | \end{array}\right] 215 | $$ 216 | 217 | 由 $ \operatorname{det}\left(\lambda I-B_{J}\right)=\lambda^{2}-\frac{a_{12} a_{21}}{a_{11} a_{21}} $, 计算其特征值 $ \lambda_{1,2}= \pm \sqrt{\left|\frac{a_{12} a_{21}}{a_{11} a_{22}}\right|} $, 因此Jacobi 迭代法收敛满足： 218 | $$ 219 | \rho\left(B_{J}\right)=\sqrt{\left|\frac{a_{12} a_{21}}{a_{11} a_{22}}\right|}<1\iff \left|\dfrac{a_{12} a_{21}}{a_{11} a_{22}}\right|<1 220 | $$ 221 | 222 | 同理, Gauss-Seidel 迭代法的迭代矩阵为 223 | $$ 224 | B_{G}=(D-L)^{-1}U=\left[\begin{array}{cc} 225 | a_{11} & 0 \\ 226 | a_{21} & a_{22} 227 | \end{array}\right]^{-1}\left[\begin{array}{cc} 228 | 0 & -a_{12} \\ 229 | 0 & 0 230 | \end{array}\right]=\left[\begin{array}{cc} 231 | 0 & -\frac{a_{12}}{a_{11}} \\ 232 | 0 & \frac{a_{12} a_{21}}{a_{11} a_{12}} 233 | \end{array}\right] 234 | $$ 235 | 其中$\left[\begin{array}{cc} 236 | a_{11} & 0 \\ 237 | a_{21} & a_{22} 238 | \end{array}\right]^{-1}=\frac{1}{a_{11}a_{22}}\left[\begin{array}{cc} 239 | a_{22} & 0 \\ 240 | -a_{21} & a_{11} 241 | \end{array}\right]$. 由 $ \operatorname{det}\left(\lambda I-B_{G}\right)=\lambda\left(\lambda-\frac{a_{12} a_{21}}{a_{11} a_{12}}\right) $, 计算其特征值 $ \lambda_{1}=0, \lambda_{2}=\frac{a_{12} a_{21}}{a_{11} a_{22}} $, 因此 242 | $$ 243 | \rho\left(B_{G}\right)<1\iff \left|\frac{a_{12} a_{21}}{a_{11} a_{22}}\right|<1 244 | $$ 245 | 246 | \end{tcolorbox} 247 | 248 | 249 | 250 | 251 | 252 | 253 | 254 | \begin{tcolorbox}[breakable, 255 | colframe=white!10!jingga, coltitle=white!90!jingga, colback=white!95!jingga, coltext=black, colbacktitle=white!10!jingga, enhanced, fonttitle=\bfseries,fontupper=\normalsize, attach boxed title to top left={yshift=-2mm}, before skip=8pt, after skip=8pt, 256 | title=解答题] 257 | 258 | 1. 求一个次数不超过 4 次的插值多项式 $ p(x) $, 使它满足： 259 | $$ 260 | \begin{array}{l} 261 | p(0)=f(0)=0, p(1)=f(1)=1, p^{\prime}(0)=f^{\prime}(0)=0, \\ 262 | p^{\prime}(1)=f^{\prime}(1)=1, p^{\prime}(1)=f^{\prime}(1)=0 263 | \end{array} 264 | $$ 265 | 并求其余项表达式（设 $ f(x) $ 存在 5 阶导数） 266 | \tcblower 267 | 根据插值条件，我们设插值多项式为 $ p(x)=x^{2}(ax^{2}+bx+c) $. 解得 $ a=1, b=-3, c=3 $. 268 | 269 | 设$x_0=0,x_1=1$,为求出余项 $ R(x)=f(x)-p(x) $, 根据 $ R\left(x_{i}\right)=0 $ , $R^{\prime}\left(x_{i}\right)=0(i=0,1) $ 和$R^{\prime\prime}\left(x_{1}\right)=0 $, 设 270 | $$ 271 | R(x)=K(x)\left(x-x_{0}\right)^2\left(x-x_{1}\right)^{3} 272 | $$ 273 | 为确定 $ K(x) $, 构造 274 | $$ 275 | \varphi(t)=f(t)-p(t)-K(x)\left(x-x_{0}\right)^2\left(x-x_{1}\right)^{3} 276 | $$ 277 | 显然 $\varphi(x)=0, \varphi\left(x_{i}\right)=0, i=0,1 $, 且 $\varphi^{\prime}\left(x_{1}\right)=0,\varphi^{\prime\prime}\left(x_{1}\right)=0 $, 278 | 279 | 反复应用罗尔定理得 $ \varphi^{(5)}(t) $ 在区间 $ [0, 1] $ 上至少有一个零点 $ \xi $, 故有 280 | $$ 281 | \varphi^{(5)}(\xi)=f^{(5)}(\xi)-5 ! K(x)=0 282 | $$ 283 | 于是 284 | $$ 285 | K(x)=\frac{1}{5 !} f^{(5)}(\xi) 286 | $$ 287 | 故余项表达式 288 | $$ 289 | R(x)=\frac{1}{5 !} f^{(5)}(\xi)\left(x-x_{0}\right)^2\left(x-x_{1}\right)^{3}=\frac{f^{(5)}(\xi)}{5!}x^{2}(x-1)^{3} 290 | $$ 291 | 292 | \end{tcolorbox} 293 | 294 | 295 | 296 | 297 | \begin{tcolorbox}[breakable, 298 | colframe=white!10!jingga, coltitle=white!90!jingga, colback=white!95!jingga, coltext=black, colbacktitle=white!10!jingga, enhanced, fonttitle=\bfseries,fontupper=\normalsize, attach boxed title to top left={yshift=-2mm}, before skip=8pt, after skip=8pt, 299 | title=解答题] 300 | 301 | 2. 设 $ A=\left[\begin{array}{ccc}3 & 7 & 1 \\ 0 & 4 & t+1 \\ 0 & -t+1 & -1\end{array}\right] \quad b=\left[\begin{array}{l}1 \\ 1 \\ 0\end{array}\right], \quad A X=b, \quad $ 其中 $ t $ 为实参数. 302 | 303 | （1）求用 Jacobi 法解 $ A X=b $ 时迭代矩阵; 304 | 305 | （2） $ t $ 在什么范围内 Jacobi 迭代法收敛. 306 | 307 | \tcblower 308 | (1) 309 | $$ 310 | \boldsymbol{B}_{J}=\boldsymbol{D}^{-1}(\boldsymbol{L}+\boldsymbol{U})=\left[\begin{array}{ccc} 311 | \frac{1}{3} & & \\ 312 | & \frac{1}{4} & \\ 313 | & & -1 314 | \end{array}\right]\left[\begin{array}{ccc} 315 | 0 & -7 & -1 \\ 316 | 0 & 0 & -(t+1) \\ 317 | 0 & t-1 & 0 318 | \end{array}\right]=\left[\begin{array}{ccc} 319 | 0 & -\frac{7}{3} & -\frac{1}{3} \\ 320 | 0 & 0 & -\frac{1}{4}(t+1) \\ 321 | 0 & 1-t & 0 322 | \end{array}\right] 323 | $$ 324 | 325 | (2) 326 | $$\operatorname{det}\left(\lambda \boldsymbol{I}-\boldsymbol{B}_{J}\right)=\left|\begin{array}{ccc} 327 | \lambda & \frac{7}{3} & \frac{1}{3} \\ 328 | 0 & \lambda & \frac{1}{4}(t+1) \\ 329 | 0 & t-1 & \lambda 330 | \end{array}\right|=\lambda^{3}-\frac{\lambda}{4}\left(t^{2}-1\right)=0$$ 331 | 所以 $ \lambda_1=0 $, $ \lambda_{2,3}=\pm\frac{1}{2} \sqrt{t^{2}-1} $, 由 $ \rho\left(\boldsymbol{B}_{J}\right)=\frac{1}{2} |\sqrt{t^{2}-1}|<1 $, 解得 $ -\sqrt{5}0 $ 时, 迭代函数为 370 | $$ 371 | \varphi(x)=\frac{x\left(x^{2}+3 a\right)}{3 x^{2}+a} 372 | $$ 373 | 374 | 满足 $ \varphi(\sqrt{a})=\sqrt{a} $. 所以 $ \sqrt{a} $ 是 $ \varphi $ 的不动点, 为了求导数方便些, 写成 375 | $$ 376 | \left(3 x^{2}+a\right) \varphi(x)=x^{3}+3 a x 377 | $$ 378 | 379 | 两边求导数得 380 | $$ 381 | \left(3 x^{2}+a\right) \varphi^{\prime}(x)+6 x \varphi(x)=3 x^{2}+3 a 382 | $$ 383 | 384 | 从而得到 $ \varphi^{\prime}(\sqrt{a})=0 $, 这样迭代法就在不动点 $ x^{*}=\sqrt{a} $ 附近局部收敛, 两边再求导数并整理得到 385 | $$ 386 | \left(3 x^{2}+a\right) \varphi^{\prime \prime}(x)+12 x \varphi^{\prime}(x)+6 \varphi(x)=6 x 387 | $$ 388 | 389 | 因此以 $ x=\sqrt{a} $ 代入验证 $ \varphi^{\prime \prime}(\sqrt{a})=0 $, 而再求导整理得 390 | $$ 391 | \left(3 x^{2}+a\right) \varphi^{\prime \prime \prime}(x)+18 x \varphi^{\prime \prime}(x)+18 \varphi^{\prime}(x)+6 \varphi(x)=6 392 | $$ 393 | 394 | 得到 $ \varphi^{\prime \prime \prime}(\sqrt{a})=\frac{3}{2a} \neq 0 $, 因此证得原迭代格式三阶收敛到 $ \sqrt{a} $, 另一方面, 由收敛阶的定义 395 | $$ 396 | x_{k+1}-\sqrt{a}=\frac{x_{k}^{2}+3 a x_{k}-3 \sqrt{a} x_{k}^{2}-a \sqrt{a}}{3 x_{k}^{2}+a}=\frac{\left(x_{k}-\sqrt{a}\right)^{3}}{3 x_{k}^{2}+a} 397 | $$ 398 | 399 | 因此 400 | $$ 401 | \lim _{k \rightarrow \infty} \frac{x_{k+1}-\sqrt{a}}{\left(x_{k}-\sqrt{a}\right)^{3}}=\lim _{k \rightarrow \infty} \frac{1}{3 x_{k}^{2}+a}=\frac{1}{4 a} 402 | $$ 403 | 404 | 这也说明原迭代格式三阶收敛到 $ \sqrt{a} $. 405 | 406 | \end{tcolorbox} 407 | 408 | \begin{tcolorbox}[breakable, 409 | colframe=white!10!jingga, coltitle=white!90!jingga, colback=white!95!jingga, coltext=black, colbacktitle=white!10!jingga, enhanced, fonttitle=\bfseries,fontupper=\normalsize, attach boxed title to top left={yshift=-2mm}, before skip=8pt, after skip=8pt, 410 | title=解答题] 411 | 证明牛顿法应用于方程 $ x^{n}-a=0, x>0 $（其中 $ n>0 $ 且 $ a>0 $）全局收敛于 $ a^{\frac{1}{n}} $. 412 | 413 | \tcblower 414 | 牛顿法用于寻找方程 $f(x) = 0$ 的根，迭代公式为： 415 | $$ x_{k+1} = x_k - \frac{f(x_k)}{f'(x_k)} $$ 416 | 由于 $f(x) = x^n - a $，对此函数求导得：$f'(x) = n x^{n-1}$. 因此，牛顿迭代法可以表示为： 417 | $$ x_{k+1} = x_k - \frac{x_k^n - a}{n x_k^{n-1}} = x_k - \frac{x_k}{n} + \frac{a}{n x_k^{n-1}} = \frac{(n-1)x_k + \frac{a}{x_k^{n-1}}}{n} $$ 418 | 419 | 下面我们证明这个迭代方法全局收敛于 $x = a^{\frac{1}{n}}$，也就是方程的正根. 420 | 421 | 我们知道算术平均数 (AM) 总是大于或等于几何平均数 (GM)，对于非负数 $b_1, b_2, \dots, b_n$，有： 422 | $$ 423 | \frac{b_1 + b_2 + \dots + b_n}{n} \geqslant \sqrt[n]{b_1 \cdot b_2 \cdot \dots \cdot b_n} 424 | $$ 425 | 对于上面的情况，将 $b_i = x_n$ 对于 $i = 1, \dots, n-1$ 以及 $b_n = \frac{a}{x_n^{n-1}}$ 应用上述不等式得到： 426 | $$ 427 | \frac{(n-1)x_n + \frac{a}{x_n^{n-1}}}{n} \geqslant \sqrt[n]{x_n^{n-1} \cdot \frac{a}{x_n^{n-1}}}= \sqrt[n]{a} 428 | $$ 429 | 我们定义迭代函数： 430 | $$ \varphi(x) = \frac{(n-1)x + \frac{a}{x^{n-1}}}{n} $$ 431 | 对 $\forall x \in [\sqrt[n]{a}, +\infty)$ 显然有$\varphi(x)\geqslant \sqrt[n]{a}$. 因此，$ \varphi(x): [\sqrt[n]{a}, +\infty) \to [\sqrt[n]{a}, +\infty) $. 432 | $$ \varphi'(x) = \frac{(n-1) - \frac{(n-1)a}{x^n}}{n} = \frac{(n-1)(x^n - a)}{nx^n} = \frac{n-1}{n} \left(1 - \frac{a}{x^n}\right) $$ 433 | 在区间 $[\sqrt[n]{a}, +\infty)$ 上，$ x^n \geqslant a $，故 $ 0 \leqslant \frac{a}{x^n} \leqslant 1 $.因此： 434 | $$ 0 \leqslant \varphi'(x) < \frac{n-1}{n} < 1 $$ 435 | 436 | 437 | 438 | 根据压缩映射原理，在 $[\sqrt[n]{a}, +\infty)$ 中存在唯一的不动点 $ x^* $ ，使得 $ \varphi(x^*) = x^* $.这个不动点是 $ x^* = \sqrt[n]{a} $，因为 $ \varphi(x^*) = x^* $ 对应于 $ f(x) = 0 $ 的根. 439 | 440 | 441 | 因此，根据上述分析，牛顿法在这个特定的问题中全局收敛于 $a^{\frac{1}{n}}$. 442 | \end{tcolorbox} 443 | 444 | 445 | 446 | 447 | 448 | -------------------------------------------------------------------------------- /main.tex: -------------------------------------------------------------------------------- 1 | \documentclass{article} 2 | \usepackage[paperwidth=210mm, paperheight=297mm, margin=2cm]{geometry} 3 | %\usepackage[utf8]{inputenc} 4 | %\usepackage{ebgaramond-maths} 5 | \usepackage{ctex} 6 | %==Math & Physics Packages== 7 | \usepackage{amsmath, amsthm, amsfonts, amssymb,bm} 8 | \usepackage{setspace} 9 | \usepackage{physics} 10 | \usepackage{cancel} 11 | \usepackage{nicefrac} 12 | 13 | \usepackage{picinpar}%处理图文混排 14 | 15 | 16 | 17 | %==Image-related Packages== 18 | \usepackage{graphics, graphicx} 19 | \usepackage{tikz} 20 | \usetikzlibrary{arrows.meta} 21 | \usepackage{pgfplots} 22 | \pgfplotsset{compat=1.18} 23 | \usepackage{fourier-orns} 24 | \usepackage{lipsum} 25 | %==Colour Palette== 26 | \definecolor{merah}{HTML}{F4564E} 27 | \definecolor{merahtua}{HTML}{89313E} 28 | \definecolor{biru}{HTML}{60BBE5} 29 | \definecolor{birutua}{HTML}{412F66} 30 | \definecolor{hijau}{HTML}{59CC78} 31 | \definecolor{hijautua}{HTML}{366D5B} 32 | \definecolor{kuning}{HTML}{FFD56B} 33 | \definecolor{jingga}{HTML}{FBA15F} 34 | \definecolor{ungu}{HTML}{8C5FBF} 35 | \definecolor{lavender}{HTML}{CBA5E8} 36 | \definecolor{merjamb}{HTML}{FFB6E0} 37 | 38 | 39 | \definecolor{1}{RGB}{163,187,219} 40 | \definecolor{2}{RGB}{239,239,239} 41 | 42 | \definecolor{3}{RGB}{65,222,183} 43 | \definecolor{4}{RGB}{237,241,187} 44 | 45 | \definecolor{5}{RGB}{129,227,247} 46 | \definecolor{6}{RGB}{236,239,244} 47 | 48 | \definecolor{7}{RGB}{195,217,78} 49 | \definecolor{8}{RGB}{245,243,242} 50 | 51 | \definecolor{9}{RGB}{240,145,161} 52 | \definecolor{10}{RGB}{245,242,233} 53 | 54 | 55 | \definecolor{mycolor1}{RGB}{185,227,251} 56 | \definecolor{mycolor2}{RGB}{252,204,203} 57 | \definecolor{mycolor3}{RGB}{250,230,233} 58 | \definecolor{mycolor4}{RGB}{220,238,248} 59 | \definecolor{mycolor5}{RGB}{131,203,172} 60 | \definecolor{mycolor6}{RGB}{185,222,201} 61 | \definecolor{mycolor7}{RGB}{233,215,223} 62 | \definecolor{mycolor8}{RGB}{200,173,196} 63 | \definecolor{mycolor9}{RGB}{92,197,204} 64 | \definecolor{mycolor10}{RGB}{236,138,164} 65 | %==Theorems== 66 | \usepackage{xcolor} 67 | \usepackage{tcolorbox} 68 | \tcbuselibrary{skins,breakable,theorems} 69 | \usepackage{changepage}%用于调整页面布局，例如改变页面的宽度或高度。 70 | \renewcommand{\thesection}{\arabic{section}} 71 | 72 | %\usepackage{titlesec} 73 | % 重新定义subsection标题格式 74 | %\titleformat{\subsection}[hang]{\bfseries}{\thesubsection}{1em}{} 75 | 76 | 77 | \makeatletter 78 | 79 | % Definition 80 | % \newtcbtheorem{dfn}{1} 81 | % {breakable,enhanced,arc=0mm,outer arc=0mm, 82 | % boxrule=0pt,toprule=1pt,leftrule=0pt,bottomrule=1pt, rightrule=0pt,left=0.2cm,right=0.2cm, 83 | % titlerule=0.5em,toptitle=0.1cm,bottomtitle=-0.1cm,top=0.2cm, 84 | % colframe=white!10!biru,colback=white!90!biru,coltitle=white, 85 | % coltext=birutua!60!gray, title style={white!10!biru}, before skip=8pt, after skip=8pt, 86 | %fonttitle=\bfseries,fontupper=\normalsize}{dfn} 87 | 88 | %==Formatting Packages== 89 | \usepackage{multicol} 90 | \usepackage{multirow} 91 | 92 | \usepackage{enumitem} 93 | \usepackage{indentfirst} 94 | \usepackage[toc]{multitoc} 95 | 96 | %==Layouting Packages== 97 | \usepackage{titlesec} 98 | \usepackage{fancyhdr} 99 | \pagestyle{fancy} 100 | \setlength{\headheight}{15pt} 101 | % Uncomment jika perlu 102 | \fancyhead[L]{Numerical Analysis} 103 | \fancyhead[R]{xiaowen} 104 | %\fancyfoot[L]{} 105 | \fancyfoot[C]{\thepage} 106 | %\fancyfoot[R]{\thepage} 107 | 108 | 109 | \newcommand{\myboxblue}[1]{ 110 | \begin{tcolorbox}[breakable,enhanced,arc=0mm,outer arc=0mm, 111 | boxrule=0pt,toprule=1pt,leftrule=0pt,bottomrule=1pt, rightrule=0pt,left=0.2cm,right=0.2cm, 112 | titlerule=0.5em,toptitle=0.1cm,bottomtitle=-0.1cm,top=0.2cm, 113 | colframe=white!10!biru,colback=white!90!biru,coltitle=white, 114 | coltext=black,title =#1, title style={white!10!biru}, before skip=8pt, after skip=8pt,before upper=\hspace{2em}, 115 | fonttitle=\bfseries,fontupper=\normalsize] 116 | 117 | 118 | \tcblower 119 | 120 | \end{tcolorbox} 121 | } 122 | 123 | 124 | \newcounter{woes} 125 | \renewcommand{\thewoes}{\arabic{woes}} 126 | \newcommand{\woe}{\par\noindent\refstepcounter{woes}\textbf{\thewoes.}\hspace{0.5em}} 127 | \newcommand{\woestar}{\par\noindent\refstepcounter{woes}\(\boldsymbol{\thewoes^*.}\)\hspace{0.5em}} 128 | 129 | \newtcolorbox{questionA}{ 130 | colback=green!5!white,colframe=green!30!white, 131 | parbox=false,before upper=\par,before lower=\par, 132 | coltitle=green!25!black,breakable, 133 | title={\thesection \(\,\boldsymbol{\mathcal{A} }\)},fonttitle=\bfseries} 134 | \newenvironment{quiza}{\begin{questionA}\setcounter{woes}{0}}{\end{questionA}} 135 | 136 | \newtcolorbox{questionB}{ 137 | colback=blue!5!white,colframe=blue!30!white, 138 | parbox=false,before upper=\par,before lower=\par, 139 | coltitle=blue!25!black,breakable, 140 | title={\thesection \(\,\boldsymbol{\mathcal{B}}\)},fonttitle=\bfseries} 141 | \newenvironment{quizb}{\begin{questionB}\setcounter{woes}{0}}{\end{questionB}} 142 | 143 | 144 | 145 | 146 | 147 | 148 | \renewcommand\headrule{%定义页眉中的水平线样式的 149 | \vspace{-1pt}%-1pt表示向上调整1个点的垂直间距 150 | \hrulefill 151 | \raisebox{-2.1pt} 152 | \hrulefill} 153 | 154 | \renewcommand\footrule{% 155 | \hrulefill 156 | \raisebox{-2.1pt} 157 | %{\quad\floweroneleft\decoone\floweroneright\quad}% 158 | \hrulefill} 159 | 160 | %Reference and Bibliography Packages==设置超链接的样式和颜色 161 | \usepackage{hyperref} 162 | \hypersetup{ 163 | colorlinks=true, 164 | linkcolor={black}, 165 | citecolor={biru!70!black}, 166 | urlcolor={biru!80!black} 167 | } 168 | 169 | \numberwithin{equation}{section}%用于在 LaTeX 中设置公式编号的格式。具体来说，这行代码将使公式编号包含章节号，例如“1.1”表示第一章的第一个公式，以此类推。 170 | %这行代码的作用是将公式编号设置为按节（section）进行编号，即每个节开始时公式编号会重新计数。这样可以更清晰地显示公式的编号，使其与章节结构相对应。 171 | 172 | 173 | \usepackage{multicol} 174 | \usepackage{multirow} 175 | 176 | \setlength\columnsep{0.6cm} % 设置两栏之间的间距为0.6cm 177 | \columnseprule=1pt % 实现插入分隔线，用于分栏 178 | 179 | 180 | \usepackage{tocloft} % 导入 tocloft 宏包 181 | 182 | % 设置目录项之间的虚线 183 | \renewcommand{\cftsecleader}{\cftdotfill{2}} % 为节添加虚线 184 | \renewcommand{\cftsubsecleader}{\cftdotfill{2}} % 为小节添加虚线 185 | \renewcommand{\cftsubsubsecleader}{\cftdotfill{2}} % 为子小节添加虚线 186 | 187 | 188 | 189 | % 重新定义目录标题为“目 录”，并在两个字之间添加水平间距 190 | \renewcommand{\contentsname}{目\hspace{2em}录} 191 | 192 | 193 | 194 | 195 | 196 | 197 | 198 | \begin{document} 199 | {\centering\tableofcontents} 200 | %\tableofcontents 201 | 202 | 203 | 204 | \thispagestyle{empty} % 取消目录页的页眉和页脚 205 | 206 | \clearpage 207 | % 从这里开始正文 208 | \pagenumbering{arabic} % 设置页码格式为阿拉伯数字 209 | \setcounter{page}{1} % 从1开始页码 210 | 211 | \input{1} 212 | \input{2} 213 | \input{插值法与曲线拟合} 214 | \input{3} 215 | \input{解线性方程组的直接法} 216 | \input{4} 217 | \input{解线性方程组的迭代法} 218 | \input{非线性方程求根} 219 | \input{5} 220 | % 221 | 222 | %\input{0} 223 | %\input{box} 224 | %\input{w} 225 | \input{数值积分与数值微分} 226 | 227 | \input{6} 228 | \input{常微分方程初值问题的数值解法} 229 | \input{期中小测} 230 | \input{exam1} 231 | \input{exam2} 232 | \input{exam3} 233 | \input{补充一些填空题} 234 | \end{document} 235 | -------------------------------------------------------------------------------- /w.tex: -------------------------------------------------------------------------------- 1 | \newpage 2 | \section{数值积分与数值微分} 3 | \subsection{课后习题} 4 | \begin{tcolorbox}[breakable,enhanced,arc=0mm,outer arc=0mm, 5 | boxrule=0pt,toprule=1pt,leftrule=0pt,bottomrule=1pt, rightrule=0pt,left=0.2cm,right=0.2cm, 6 | titlerule=0.5em,toptitle=0.1cm,bottomtitle=-0.1cm,top=0.2cm, 7 | colframe=white!10!biru,colback=white!90!biru,coltitle=white, 8 | coltext=black,title =2024-05, title style={white!10!biru}, before skip=8pt, after skip=8pt,before upper=\hspace{2em}, 9 | fonttitle=\bfseries,fontupper=\normalsize] 10 | 11 | 1. 给定求积公式 $ \displaystyle\int_{0}^{1} f(x) d x \approx \frac{1}{2} f\left(x_{0}\right)+c f\left(x_{1}\right) $, 试确定 $ x_{0}, x_{1}, c $,使求积公式的代数精度尽可能高, 并指出代数精度的次数. 12 | 13 | \tcblower 14 | 当 $ f(x)=1 $ 时, 左边 $ =\int_{0}^{1} 1 \mathrm{~d} x=1 $, 右边 $ =\frac{1}{2}+c $; 15 | 16 | 当 $ f(x)=x $ 时, 左边 $ =\int_{0}^{1} x \mathrm{~d} x=\frac{1}{2} $, 右边 $ =\frac{1}{2} x_{0}+c x_{1} $; 17 | 18 | 当 $ f(x)=x^{2} $ 时, 左边 $ =\int_{0}^{1} x^{2} \mathrm{~d} x=\frac{1}{3} $, 右边 $ =\frac{1}{2} x_{0}^{2}+c x_{1}^{2} $. 19 | 20 | 要使求积公式至少具有 2 次代数精度, 当且仅当 21 | $$ 22 | \left\{\begin{array}{l} 23 | \frac{1}{2}+c=1, \\ 24 | \frac{1}{2} x_{0}+c x_{1}=\frac{1}{2}, \\ 25 | \frac{1}{2} x_{0}^{2}+c x_{1}^{2}=\frac{1}{3}, 26 | \end{array}\right. 27 | $$ 28 | 求得 $ c=\frac{1}{2}, x_{0}=\frac{1}{2}\left(1-\frac{1}{\sqrt{3}}\right), x_{1}=\frac{1}{2}\left(1+\frac{1}{\sqrt{3}}\right) $, 所以求积公式为 29 | $$ 30 | \int_{0}^{1} f(x) \mathrm{d} x \approx \frac{1}{2} f\left(\frac{1}{2}\left(1-\frac{1}{\sqrt{3}}\right)\right)+\frac{1}{2} f\left(\frac{1}{2}\left(1+\frac{1}{\sqrt{3}}\right)\right) . 31 | $$ 32 | 当 $ f(x)=x^{3} $ 时, 左边 $ =\int_{0}^{1} x^{3} \mathrm{~d} x=\frac{1}{4} $, 33 | $$ 34 | \text { 右边 }=\frac{1}{2}\left[\frac{1}{2}\left(1-\frac{1}{\sqrt{3}}\right)\right]^{3}+\frac{1}{2}\left[\frac{1}{2}\left(1+\frac{1}{\sqrt{3}}\right)\right]^{3}=\frac{1}{4} \text {; } 35 | $$ 36 | 当 $ f(x)=x^{4} $ 时, 左边 $ =\int_{0}^{1} x^{4} \mathrm{~d} x=\frac{1}{5} $, 37 | $$ 38 | \text { 右边 }=\frac{1}{2}\left[\frac{1}{2}\left(1-\frac{1}{\sqrt{3}}\right)\right]^{4}+\frac{1}{2}\left[\frac{1}{2}\left(1+\frac{1}{\sqrt{3}}\right)\right]^{4}=\frac{7}{36} \text {, } 39 | $$ 40 | 因为左边 $ \neq $ 右边, 所以求积公式的代数精度为 3 . 41 | \end{tcolorbox} 42 | 43 | \begin{tcolorbox}[breakable,enhanced,arc=0mm,outer arc=0mm, 44 | boxrule=0pt,toprule=1pt,leftrule=0pt,bottomrule=1pt, rightrule=0pt,left=0.2cm,right=0.2cm, 45 | titlerule=0.5em,toptitle=0.1cm,bottomtitle=-0.1cm,top=0.2cm, 46 | colframe=white!10!biru,colback=white!90!biru,coltitle=white, 47 | coltext=black,title =2024-05, title style={white!10!biru}, before skip=8pt, after skip=8pt,before upper=\hspace{2em}, 48 | fonttitle=\bfseries,fontupper=\normalsize] 49 | 50 | 2. 已知函数 $ f(x) \in C^{3}[0,2] $, 给定求积公式 51 | $$ 52 | \int_{0}^{2} f(x) d x \approx A f(0)+B f\left(x_{0}\right) 53 | $$ 54 | 55 | (1) 试确定 $ A, B, x_{0} $, 使该求积公式的代数精度尽可能高, 并指出代数精度的次数； 56 | 57 | (2) 给出参数确定后该求积公式的截断误差表达式. 58 | \tcblower 59 | (1) 当 $f(x) = 1$ 时,左边 $ = {\int}_{0}^{2}1\mathrm{\ d}x = 2$ ,右边 $ = A + B$ ; 60 | 61 | 当 $f(x) = x$ 时,左边 $ = {\int}_{0}^{2}x\mathrm{\ d}x = 2$ ,右边 $ = Bx_{0}$ ; 62 | 63 | 当 $f(x) = x^{2}$ 时,左边 $ = {\int}_{0}^{2}x^{2}\mathrm{\ d}x = \frac{8}{3}$ ,右边 $ = Bx_{0}^{2}$ . 64 | 65 | 求积公式至少具有 2 次代数精度的充分必要条件为:$\left\{\begin{array}{l} A + B = 2, \\ Bx_{0} = 2, \\ Bx_{0}^{2} = \frac{8}{3}, \end{array} \right.$ 66 | 67 | 求解得$A = \frac{1}{2},B = \frac{3}{2},x_{0} = \frac{4}{3}.$ 68 | 69 | 当 $f(x) = x^{3}$ 时,左边 $ = {\int}_{0}^{2}x^{3}\mathrm{\ d}x = 4$ ,右边 $ = \frac{32}{9}$ ,左边 $ {\neq} $ 右边,所以该求积公 式的代数精度为 2 . 70 | 71 | (2) 作 $f(x)$ 的 2 次插值多项式 $H(x)$ ,满足 72 | 73 | $$H(0) = f(0),\quad H\left( \frac{4}{3} \right) = f\left( \frac{4}{3} \right),\quad H^{{\prime}}\left( \frac{4}{3} \right) = f^{{\prime}}\left( \frac{4}{3} \right),$$ 74 | 75 | 由于求积公式有 2 次代数精度, 所以有 76 | 77 | $${\int}_{0}^{2}H(x)\mathrm{d}x = \frac{1}{2}H(0) + \frac{3}{2}H\left( \frac{4}{3} \right) = \frac{1}{2}f(0) + \frac{3}{2}f\left( \frac{4}{3} \right),$$ 78 | 79 | 所以截断误差为 80 | 81 | $$\begin{aligned} 82 | {\int}_{0}^{2}f(x)\mathrm{d}x {-} \left( \frac{1}{2}f(0) + \frac{3}{2}f\left( \frac{4}{3} \right) \right) &= {\int}_{0}^{2}\left\lbrack f(x) {-} H(x) \right\rbrack\mathrm{d}x\\ &= {\int}_{0}^{2}\frac{f^{{\prime}{\prime}{\prime}}(\xi)}{3!}x{\left( x {-} \frac{4}{3} \right)}^{2}\mathrm{\ d}x\\&= \frac{4}{9} {\cdot} \frac{f^{{\prime}{\prime}{\prime}}(\eta)}{6} = \frac{2}{27}f^{{\prime}{\prime}{\prime}}(\eta),\quad\eta {\in} (0,2). 83 | \end{aligned}$$ 84 | 85 | \end{tcolorbox} 86 | 87 | \begin{tcolorbox}[breakable,enhanced,arc=0mm,outer arc=0mm, 88 | boxrule=0pt,toprule=1pt,leftrule=0pt,bottomrule=1pt, rightrule=0pt,left=0.2cm,right=0.2cm, 89 | titlerule=0.5em,toptitle=0.1cm,bottomtitle=-0.1cm,top=0.2cm, 90 | colframe=white!10!biru,colback=white!90!biru,coltitle=white, 91 | coltext=black,title =2024-05, title style={white!10!biru}, before skip=8pt, after skip=8pt,before upper=\hspace{2em}, 92 | fonttitle=\bfseries,fontupper=\normalsize] 93 | 94 | 3. 设 $ f(x) \in C^{3}[a, b] $, 且 $ f(a)=f(b)=f^{\prime}(b)=0 $. 证明: 存在 $ \xi \in(a, b) $, 使得 95 | $$ 96 | \int_{a}^{b} f(x) \mathrm{d} x=\frac{(b-a)^{4}}{72} f^{\prime \prime \prime}(\xi) 97 | $$ 98 | \tcblower 99 | 100 | 作 2 次 Hermite 插值多项式 $ H(x) $, 使其满足 101 | $$ 102 | H(a)=f(a), \quad H(b)=f(b), \quad H^{\prime}(b)=f^{\prime}(b), 103 | $$ 104 | $$H(x)=f(a)+f[a,b](x-a)+f[a,b,b](x-a)(x-b)$$ 105 | 106 | 107 | 由于 $ f(a)=f(b)=f^{\prime}(b)=0 $, 所以 $ H(x)=0 $. 108 | 109 | 110 | 由 Hermite 插值多项式的余项得 111 | $$ 112 | f(x)-H(x)=f(x)=\frac{f^{\prime \prime \prime}(\xi)}{6}(x-a)(x-b)^{2}, \quad \xi \in(a, b) 113 | $$ 114 | 115 | 所以 116 | $$ 117 | \begin{aligned} 118 | \int_{a}^{b} f(x) \mathrm{d} x & =\int_{a}^{b} \frac{f^{\prime \prime \prime}(\xi)}{6}(x-a)(x-b)^{2} \mathrm{~d} x\\&=\frac{f^{\prime \prime \prime}(\eta)}{6} \int_{a}^{b}(x-a)(x-b)^{2} \mathrm{~d} x =\frac{(b-a)^{4}}{72} f^{\prime \prime \prime}(\eta), \quad \eta \in(a, b) 119 | \end{aligned} 120 | $$ 121 | \end{tcolorbox} 122 | 123 | \begin{tcolorbox}[breakable,enhanced,arc=0mm,outer arc=0mm, 124 | boxrule=0pt,toprule=1pt,leftrule=0pt,bottomrule=1pt, rightrule=0pt,left=0.2cm,right=0.2cm, 125 | titlerule=0.5em,toptitle=0.1cm,bottomtitle=-0.1cm,top=0.2cm, 126 | colframe=white!10!biru,colback=white!90!biru,coltitle=white, 127 | coltext=black,title =2024-05, title style={white!10!biru}, before skip=8pt, after skip=8pt,before upper=\hspace{2em}, 128 | fonttitle=\bfseries,fontupper=\normalsize] 129 | 130 | 4. 考虑积分 $ I(f)=\displaystyle\int_{-\sqrt{3}}^{\sqrt{3}} f(x) d x $ 及对应的求积公式 131 | $ 132 | S(f)=\sqrt{3}(f(-1)+f(1)) . 133 | $ 134 | 135 | (1) 证明求积公式 $ S(f) $ 是以 $ x_{0}=-1, x_{1}=0, x_{2}=1 $ 为求积节点的插值型求积公式. 136 | 137 | （2）求积公式 $ I(f) \approx S(f) $ 的 代数精度 138 | 139 | (3) 设 $ f(x) \in C^{4}[-\sqrt{3}, \sqrt{3}] $, 求截断误差形如 $ \alpha f^{(\beta)}(\xi) $ 的表达式, 其中 $ \xi \in[-\sqrt{3}, \sqrt{3}], \alpha, \beta $ 为常数 140 | \tcblower 141 | 142 | 143 | (1) 我们先构造以 $x_{0}=-1, x_{1}=0, x_{2}=1$ 为插值节点的拉格朗日插值基函数： 144 | 145 | \[ 146 | l_{0}(x) = \frac{(x-0)(x-1)}{(-1-0)(-1-1)} = \frac{(x)(x-1)}{2}, 147 | \] 148 | 149 | \[ 150 | l_{1}(x) = \frac{(x+1)(x-1)}{(0+1)(0-1)} = -(x+1)(x-1), 151 | \] 152 | 153 | \[ 154 | l_{2}(x) = \frac{(x+1)(x-0)}{(1+1)(1-0)} = \frac{(x+1)(x)}{2}. 155 | \] 156 | 157 | 插值多项式为： 158 | \[ 159 | P(x) = f(-1)l_{0}(x) + f(0)l_{1}(x) + f(1)l_{2}(x). 160 | \] 161 | 162 | 我们现在计算 $\displaystyle\int_{-\sqrt{3}}^{\sqrt{3}} l_{i}(x) \, dx$： 163 | 164 | \[ 165 | \int_{-\sqrt{3}}^{\sqrt{3}} l_{0}(x) \, dx = \int_{-\sqrt{3}}^{\sqrt{3}} \frac{x(x-1)}{2} \, dx =\sqrt{3} 166 | \] 167 | 168 | \[ 169 | \int_{-\sqrt{3}}^{\sqrt{3}} l_{1}(x) \, dx = \int_{-\sqrt{3}}^{\sqrt{3}} -(x+1)(x-1) \, dx = \int_{-\sqrt{3}}^{\sqrt{3}} -(x^2-1) \, dx = 0, 170 | \] 171 | 172 | \[ 173 | \int_{-\sqrt{3}}^{\sqrt{3}} l_{2}(x) \, dx = \int_{-\sqrt{3}}^{\sqrt{3}} \frac{(x+1)x}{2} \, dx = \frac{1}{2} \int_{-\sqrt{3}}^{\sqrt{3}} x^2 + x \, dx = \sqrt{3}. 174 | \] 175 | 176 | 因此，求积公式 $S(f) = \sqrt{3}(f(-1) + f(1))$ 是以 $x_{0} = -1, x_{1} = 0, x_{2} = 1$ 为求积节点的插值型求积公式. 177 | 178 | (2) 令 $f(x) = 1$， 179 | \[ 180 | I(f) = \int_{-\sqrt{3}}^{\sqrt{3}} 1 \, dx = 2\sqrt{3}, \quad S(f) = \sqrt{3}(1 + 1) = 2\sqrt{3}. 181 | \] 182 | 183 | 令 $f(x) = x$， 184 | \[ 185 | I(f) = \int_{-\sqrt{3}}^{\sqrt{3}} x \, dx = 0, \quad S(f) = \sqrt{3}(-1 + 1) = 0. 186 | \] 187 | 188 | 令 $f(x) = x^2$， 189 | \[ 190 | I(f) = \int_{-\sqrt{3}}^{\sqrt{3}} x^2 \, dx = 2 \sqrt{3} , 191 | \quad S(f) = \sqrt{3}((-1)^2 + 1^2) = \sqrt{3}(1 + 1) = 2\sqrt{3}. 192 | \] 193 | 194 | 195 | 令 $f(x)=x^{3}$, 196 | $$I(f)=\int_{-\sqrt{3}}^{\sqrt{3}} x^{3} d x=0,\quad S(f)=\sqrt{3}(-1+1)=0 .$$ 197 | 198 | 199 | 令 $f(x)=x^{4}$, 200 | $$I(f)=\int_{-\sqrt{3}}^{\sqrt{3}} x^{4} d x=\frac{18\sqrt{3}}{5}, \quad S(f)=\sqrt{3}(1+1)= 2\sqrt{3}.$$ 201 | 202 | 所以求积公式的代数精度为 3 . 203 | 204 | 205 | (3) 构造 $f(x)$ 的三次插值多项式 $H(x)$，使其满足 206 | 207 | \[ 208 | H(-1) = f(-1), \quad H(1) = f(1), \quad H'(-1) = f'(-1), \quad H'(1) = f'(1). 209 | \] 210 | 211 | 则 $H(x)$ 存在且唯一，有： 212 | 213 | \[ 214 | f(x) - H(x) = \frac{f^{(4)}(\eta)}{4!}(x+1)^2(x-1)^2, \quad \eta \in (-1, 1). 215 | \] 216 | 217 | 因此， 218 | 219 | \[\begin{aligned} 220 | I(f) - S(f) &= \int_{-\sqrt{3}}^{\sqrt{3}} f(x) \, dx - \sqrt{3}[f(-1) + f(1)] \\&= \int_{-\sqrt{3}}^{\sqrt{3}} f(x) \, dx - \sqrt{3}[H(-1) + H(1)] \\&=\int_{-\sqrt{3}}^{\sqrt{3}} f(x) \, dx -\int_{-\sqrt{3}}^{\sqrt{3}}H(x)\, dx \\&=\int_{-\sqrt{3}}^{\sqrt{3}} [f(x)-H(x)] \, dx \\&= \int_{-\sqrt{3}}^{\sqrt{3}} \frac{f^{(4)}(\eta)}{4!}(x+1)^2(x-1)^2 \, dx\\&= \frac{f^{(4)}(\xi)}{4!}\int_{-\sqrt{3}}^{\sqrt{3}}(x+1)^2(x-1)^2= \frac{\sqrt{3}}{15} f^{(4)}(\xi)\quad \xi \in (-\sqrt{3}, \sqrt{3}). 221 | \end{aligned} 222 | \] 223 | 224 | 因此截断误差形如 $\alpha f^{(\beta)}(\xi)$ 的表达式为： 225 | 226 | \[ 227 | I(f) - S(f) = \frac{\sqrt{3}}{15} f^{(4)}(\xi), \quad \xi \in (-\sqrt{3}, \sqrt{3}), \alpha = \frac{\sqrt{3}}{15}, \beta = 4. 228 | \] 229 | 230 | \end{tcolorbox} 231 | 232 | 233 | \begin{tcolorbox}[breakable,enhanced,arc=0mm,outer arc=0mm, 234 | boxrule=0pt,toprule=1pt,leftrule=0pt,bottomrule=1pt, rightrule=0pt,left=0.2cm,right=0.2cm, 235 | titlerule=0.5em,toptitle=0.1cm,bottomtitle=-0.1cm,top=0.2cm, 236 | colframe=white!10!biru,colback=white!90!biru,coltitle=white, 237 | coltext=black,title =2024-05, title style={white!10!biru}, before skip=8pt, after skip=8pt,before upper=\hspace{2em}, 238 | fonttitle=\bfseries,fontupper=\normalsize] 239 | 240 | 5. 已知 $ f^{(4)}(x) $ 在 $ [a, b] $ 上连续, 此时 Simpson 数值求积公式的余项为 $ \displaystyle R(S)=-\frac{1}{90}\left(\frac{b-a}{2}\right)^{5} f^{(4)}(\xi)$, 241 | 242 | (1) 证明: 复合 Simpson 公式的余项为 $\displaystyle \int_{a}^{b} f(x) \mathrm{d} x-S_{n}=-\frac{b-a}{180}\left(\frac{h}{2}\right)^{4} f^{(4)}(\eta) $, 其中 $ h=\dfrac{b-a}{n} ; $ 243 | 244 | (2) 利用复合 Simpson 公式求解积分 $\displaystyle \int_{0}^{\frac{1}{2}} \sin x \mathrm{d} x $, 至少需要多少求积节点才能保证误差不超过 $ 10^{-7} $. 245 | \tcblower 246 | (1)记 $ x_{k+\frac{1}{2}}=\frac{1}{2}\left(x_{k}+x_{k+1}\right) $. 对每一个积分 $ I_{k}(f) $ 应用Simpson公式, 得到复化Simpson公式 247 | 248 | $$ 249 | S_{n}(f)=\sum_{k=0}^{n-1} \frac{h}{6}\left[f\left(x_{k}\right)+4 f\left(x_{k+\frac{1}{2}}\right)+f\left(x_{k+1}\right)\right] 250 | $$ 251 | 或 252 | $$ 253 | S_{n}(f)=\frac{h}{6}\left[f\left(a\right)+2 \sum_{k=1}^{n-1} f\left(x_{k}\right)+f\left(b\right)+4 \sum_{k=0}^{n-1} f\left(x_{k+\frac{1}{2}}\right)\right] . 254 | $$ 255 | 则 256 | $$ 257 | \int_{x_{k}}^{x_{k+1}} f(x) \mathrm{d} x-\frac{h}{6}\left[f\left(x_{k}\right)+4 f\left(x_{k+\frac{1}{2}}\right)+f\left(x_{k+1}\right)\right] = -\frac{h}{180}\left(\frac{h}{2}\right)^{4} f^{(4)}\left(\eta_{k}\right), \quad \eta_{k} \in\left(x_{k}, x_{k+1}\right), 258 | $$ 259 | 于是在 $ [a, b] $ 上复化Simpson公式的截断误差为 260 | $$ 261 | \begin{aligned} 262 | I(f)-S_{n}(f) & =\sum_{k=0}^{n-1}\left\{\int_{x_{k}}^{x_{k+1}} f(x) \mathrm{d} x-\frac{h}{6}\left[f\left(x_{k}\right)+4 f\left(x_{k+\frac{1}{2}}\right)+f\left(x_{k+1}\right)\right]\right\} \\ 263 | & =\sum_{k=0}^{n-1}\left[-\frac{h}{180}\left(\frac{h}{2}\right)^{4} f^{(4)}\left(\eta_{k}\right)\right] \\ 264 | & =-\frac{h}{180}\left(\frac{h}{2}\right)^{4} \sum_{k=0}^{n-1} f^{(4)}\left(\eta_{k}\right) . 265 | \end{aligned} 266 | $$ 267 | 设 $ f(x) \in C^{4}[a, b] $, 则由连续函数的介值定理知, 存在 $ \eta \in(a, b) $, 使得 268 | $$ 269 | \frac{1}{n} \sum_{k=0}^{n-1} f^{(4)}\left(\eta_{k}\right)=f^{(4)}(\eta) 270 | $$ 271 | 因此有 272 | $$ 273 | I(f)-S_{n}(f) =-\frac{h}{180}\left(\frac{h}{2}\right)^{4} n f^{(4)}(\eta) =\textcolor{red}{\bm{-\frac{b-a}{180} f^{(4)}(\eta)\left(\frac{h}{2}\right)^{4}}}, \quad \eta \in(a, b) . 274 | $$ 275 | 276 | (2) 取 $f(x)=\sin x$,则易知$f^{(4)}(x)=\sin x$,因此$f^{(4)}(\eta)\leqslant \frac 12,\eta \in(0,\frac 12)$.根据题意得： 277 | 278 | $$ \left|R_n\left(f\right)\right|=\left|-\frac{(b-a)^{5}}{2880 n^{4}} f^{(4)}(\eta)\right| \leqslant \frac 12\cdot\frac{2^{-5}}{2880 n^{4}} \leqslant 10^{-7} \Rightarrow n^4\geqslant \frac{15624}{288}\approx 54.253\Rightarrow n\geqslant 2.714$$ 279 | 280 | %可取 $ n=4 $, 即用 $ n=4 $ 的复合辛普森公式 计算即可达到精度要求, 此时区间 $ [0,\frac12] $ 实际上应分为 8 等份. 只需计算 9 个函数值，即需要9个求积节点. 281 | 282 | 因此，需要至少 $n=3$ 个子区间,即用 $ n=3 $ 的复合辛普森公式计算即可达到精度要求.注意，每个子区间包含两个端点，总节点数为 $2n+1$，即 $7$ 个节点. 283 | 284 | \end{tcolorbox} 285 | 286 | 287 | -------------------------------------------------------------------------------- /常微分方程初值问题的数值解法.tex: -------------------------------------------------------------------------------- 1 | %\section{常微分方程初值问题的数值解法} 2 | 3 | \newpage 4 | 5 | \section{常微分方程的数值解法知识点概述} 6 | 7 | 一阶常微分方程的初值问题, 其一般形式是 8 | $ 9 | \left\{\begin{array}{l} 10 | \frac{d y}{d x}=f(x, y), \quad a \leqslant x \leqslant b \\ 11 | y(a)=y_{0} 12 | \end{array}\right. 13 | $ 14 | 建立微分方程初值问题的数值解法, 首先要将微分方程离散化, 一般采用以下几种方法: 15 | \begin{itemize} 16 | \item \colorbox{yellow}{差商近似导数的方法} 17 | \end{itemize} 18 | 19 | 20 | 若用向前差商 $ \dfrac{y\left(x_{n+1}\right)-y\left(x_{n}\right)}{h} $ 替代 $ y^{\prime}\left(x_{n}\right) $ 代入一阶常微分方程的初值问题, 则得 21 | $$ 22 | \frac{y\left(x_{n+1}\right)-y\left(x_{n}\right)}{h} \approx f\left(x_{n}, y\left(x_{n}\right)\right), \quad n=0,1, \cdots 23 | $$ 24 | 化简得 25 | $$ 26 | y\left(x_{n+1}\right) \approx y\left(x_{n}\right)+h f\left(x_{n}, y\left(x_{n}\right)\right), \quad n=0,1, \cdots 27 | $$ 28 | 若用近似值 $ y_{n} $ 表示 $ y\left(x_{n}\right), y_{n+1} $ 近似所得结果 $ y\left(x_{n+1}\right) $, 则上式可记为 29 | $$ 30 | y_{n+1}=y_{n}+h f\left(x_{n}, y_{n}\right), \quad n=0,1, \cdots 31 | $$ 32 | 如此, 初值问题就转化为下列的离散化格式问题: 33 | $$ 34 | \left\{\begin{array}{l} 35 | y_{n+1}=y_{n}+h f\left(x_{n}, y_{n}\right) \\ 36 | y_{0}=y(a) 37 | \end{array}, \quad n=0,1, \cdots\right. 38 | $$ 39 | 上式也称为初值问题的差分方程初值问题. 40 | 41 | \begin{itemize} 42 | \item \colorbox{yellow}{数值积分方法} 43 | \end{itemize} 44 | 45 | 46 | 若将初值问题的解表示成积分形式, 用数值积分方法离散化, 就可获得微分方程的数值积分方法. 如, 对初值问题的微分方程两端积分, 可得 47 | $$ 48 | y\left(x_{n+1}\right)-y\left(x_{n}\right)=\int_{x_{n}}^{x_{n+1}} f(x, y(x)) d x, \quad n=0,1, \cdots 49 | $$ 50 | 用 $ y_{n+1}, y_{n} $ 代替上式中 $ y\left(x_{n+1}\right), y\left(x_{n}\right) $, 而右端积分采用取左端点的矩形公式, 即 51 | $$ 52 | \int_{x_{n}}^{x_{n+1}} f(x, y(x)) d x \approx h f\left(x_{n}, y_{n}\right) 53 | $$ 54 | 则可得 55 | $$ 56 | y_{n+1}-y_{n}=h f\left(x_{n}, y_{n}\right) 57 | $$ 58 | 59 | \begin{itemize} 60 | \item \colorbox{yellow}{Taylor 多项式近似法} 61 | \end{itemize} 62 | 63 | 64 | 若将函数 $ y(x) $ 在 $ x_{n} $ 处展开, 取一次 Taylor 多项式近似, 则得 65 | $$ 66 | y\left(x_{n+1}\right)=y\left(x_{n}+h\right) \approx y\left(x_{n}\right)+h y^{\prime}\left(x_{n}\right)=y\left(x_{n}\right)+h f\left(x_{n}, y\left(x_{n}\right)\right) 67 | $$ 68 | 69 | 再用 $ y_{n+1}, y_{n} $ 代替上式中 $ y\left(x_{n+1}\right), y\left(x_{n}\right) $, 得到离散化的计算公式与前面一致. Taylor 展开法的优点是不仅可以得到求数值解的公式, 而且容易估计截断误差, 故在数值求解公式时主要采用这种方法. 70 | 71 | 通过上面三种基本方法的推导, 都可以获得初值问题的离散差分的数值计算公式, 且几何意义明确. 72 | 73 | \textcolor{blue}{1. 解存在性定理} 74 | 75 | 假设 $ f(x, y) $ 在矩形区域 $ \Omega=\{(x, y) \mid x \in[a, b], y \in(-\infty,+\infty)\} $ 内连续, 且关于变元 $ y $ Lipschitz (利普希茨) 连续, 即存在正常数 $ L $, 使得对任意 $ x \in[a, b] $, 成立不等式 76 | $$ 77 | \left|f\left(x, y_{1}\right)-f\left(x, y_{2}\right)\right| \leqslant L\left|y_{1}-y_{2}\right| 78 | $$ 79 | 其中, 常数 $ L $ 称为 Lipschitz 常数, 则初值问题存在唯一解 $ y(x) \in C[a, b] $. 80 | 81 | \textcolor{blue}{2. Euler 方法} 82 | 83 | Euler (欧拉) 法, 也称 Euler 折线法. 84 | $$ 85 | \left\{\begin{array}{l} 86 | y_{n+1}=y_{n}+h f\left(x_{n}, y_{n}\right), \\ 87 | y_{0}=y\left(x_{0}\right)=a, 88 | \end{array} n=0,1,2, \cdots\right. 89 | $$ 90 | 91 | \textcolor{blue}{3. 向后 Euler 方法} 92 | $$ 93 | \left\{\begin{array}{l} 94 | y_{n+1}=y_{n}+h f\left(x_{n+1}, y_{n+1}\right), \quad n=0,1,2, \cdots \\ 95 | y_{0}=y\left(x_{0}\right)=a, 96 | \end{array}\right. 97 | $$ 98 | 99 | \textcolor{blue}{4. 梯形法} 100 | 101 | $$ \left\{\begin{array}{l}y_{n+1}=y_{n}+\frac{h}{2}\left[f\left(x_{n}, y_{n}\right)+f\left(x_{n+1}, y_{n+1}\right)\right], \quad n=0,1,2, \cdots \\ y_{0}=y\left(x_{0}\right)=a,\end{array}\right. $$ 102 | 103 | \textcolor{blue}{5. 局部截断误差与 $ p $ 阶精度} 104 | 105 | 设 $ y(x) $ 是初值问题的解析解, 称 106 | $$ 107 | R_{n+1}=y\left(x_{n+1}\right)-y_{n+1} 108 | $$ 109 | 为显式单步法的局部截断误差. 110 | 设 $ y(x) $ 是初值问题的准确解, 若存在最大整数 $ p $ 使显式单步法的局部截断误差满足 111 | $$ 112 | R_{n+1}=y\left(x_{n+1}\right)-y_{n+1}=O\left(h^{p+1}\right) 113 | $$ 114 | 则称该方法具有 $ p $ 阶精度, 若局部截断误差展开成 115 | $$ 116 | R_{n+1}=\psi\left(x_{n}, y\left(x_{n}\right)\right) h^{p+1}+O\left(h^{p+2}\right) 117 | $$ 118 | 则 $ \psi\left(x_{n}, y\left(x_{n}\right)\right) h^{p+1} $ 称为局部截断误差主项. 119 | 120 | \textcolor{blue}{6. 改进 Euler 法} 121 | 122 | (1) 利用 Euler 公式求得一个初步的近似值 $ \widetilde{y}_{n+1} $, 称为预估值; 123 | 124 | (2) 利用梯形公式将它校正一次得到 $ y_{n+1} $, 称为校正值. 125 | 预估值 $ \widetilde{y}_{n+1} $ 的精度可能很差, 校正值精度就能极大改善, 这样建立的预估-校正系统通常称为改进 Euler 法. 126 | \begin{itemize} 127 | \item 预估: $ \widetilde{y}_{n+1}=y_{n}+h f\left(x_{n}, y_{n}\right) $. 128 | \item 校正: $ y_{n+1}=y_{n}+\frac{h}{2}\left[f\left(x_{n}, y_{n}\right)+f\left(x_{n+1}, \widetilde{y}_{n+1}\right)\right], n=0,1,2, \cdots $ 129 | \end{itemize} 130 | 改进欧拉法也可以写成下列平均化形式 131 | $$ 132 | y_{n+1}=\frac{1}{2}\left(y_{p}+y_{c}\right) 133 | $$ 134 | 其中 $ , y_{p}=y_{n}+h f\left(x_{n}, y_{n}\right), y_{c}=y_{n}+h f\left(x_{n+1}, y_{p}\right), n=0,1,2, \cdots $. 135 | 136 | \textcolor{blue}{7. 二阶 Runge-Kutta 方法} 137 | 138 | (1) 中点公式 139 | $$ 140 | \left\{\begin{array}{l} 141 | y_{n+1}=y_{n}+h K_{2} \\ 142 | K_{1}=f\left(x_{n}, y_{n}\right) \\ 143 | K_{2}=f\left(x_{n}+\frac{h}{2}, y_{n}+\frac{h}{2} K_{1}\right) 144 | \end{array} \quad n=0,1,2, \cdots\right. 145 | $$ 146 | 147 | (2) 二阶 Heun 方法 148 | $$\left\{\begin{array}{l} y_{n + 1} = y_{n} + \frac{h}{4}\left( K_{1} + 3K_{2} \right), \\ K_{1} = f\left( x_{n},y_{n} \right), \\ K_{2} = f\left( x_{n} + \frac{2}{3}h,y_{n} + \frac{2}{3}hK_{1} \right), \end{array}\quad n = 0,1,2,{\cdots} \right.$$ 149 | 150 | \textcolor{blue}{8. 三阶和四阶 Runge-Kutta 方法} 151 | 152 | (1) Kutta 三阶方法 153 | $$\left\{\begin{array}{l} y_{n + 1} = y_{n} + \frac{h}{6}\left( K_{1} + 4K_{2} + K_{3} \right), \\ K_{1} = f\left( x_{n},y_{n} \right), \\ K_{2} = f\left( x_{n} + \frac{h}{2},y_{n} + \frac{h}{2}K_{1} \right), \\ K_{3} = f\left( x_{n} + h,y_{n} {-} hK_{1} + 2hK_{2} \right), \end{array}\quad n = 0,1,2,{\cdots} \right.$$ 154 | 155 | (2) 三阶 Heun 方法 156 | $$\left\{\begin{array}{l} y_{n + 1} = y_{n} + \frac{h}{4}\left( K_{1} + 3K_{3} \right), \\ K_{1} = f\left( x_{n},y_{n} \right), \\ K_{2} = f\left( x_{n} + \frac{h}{3},y_{n} + \frac{h}{3}K_{1} \right),\quad n = 0,1,2,{\cdots} \\ K_{3} = f\left( x_{n} + \frac{2}{3}h,y_{n} + \frac{2}{3}hK_{2} \right), \end{array} \right.$$ 157 | 158 | (3) 经典四阶 Runge-Kutta 方法 159 | $$\left\{\begin{array}{l} y_{n + 1} = y_{n} + \frac{h}{6}\left( K_{1} + 2K_{2} + 2K_{3} + K_{4} \right), \\ K_{1} = f\left( x_{n},y_{n} \right), \\ K_{2} = f\left( x_{n} + \frac{h}{2},y_{n} + \frac{h}{2}K_{1} \right), \\ K_{3} = f\left( x_{n} + \frac{h}{2},y_{n} + \frac{h}{2}K_{2} \right), \\ K_{4} = f\left( x_{n} + h,y_{n} + hK_{3} \right), \end{array}\quad n = 0,1,2,{\cdots} \right.$$ 160 | 161 | 162 | 163 | 164 | \textcolor{blue}{9. 单步法的收敛性} 165 | 166 | 若一种数值方法对于固定的 $x_{n} = x_{0} + nh$ ,当 $h {\rightarrow} 0$ 时,有 $y_n\to y(x_n)$, 其中 $y(x)$ 是原微分方程的准确解,则称该方法是收敛的. 167 | 168 | 假设单步法具有 $p$ 阶精度,且增量函数 $\varphi(x,y,h)$ 关于 $y$ 满足 Lipschitz 条件 169 | $$\left| \varphi(x,y,h) {-} \varphi\left( x,\bar{y},h \right) \right| {\leq} L_{\varphi}\left| y {-} \bar{y} \right|$$ 170 | 又设 $\varphi(x,y,h)$ 是准确的,即 $y_{0} = y\left( x_{0} \right)$ ,则其整体截断误差 $y\left( x_{n} \right) {-} y_{n} = O(h^p)$ 171 | 172 | 173 | \section{补充} 174 | 175 | \subsection{梯形法} 176 | 将方程 $ y^{\prime}=f(x, y) $ 的两端从 $ x_{n} $ 到 $ x_{n+1} $ 求积分得 177 | $$ 178 | y\left(x_{n+1}\right)=y\left(x_{n}\right)+\int_{x_{n}}^{x_{n+1}} f(x, y(x)) \mathrm{d} x 179 | $$ 180 | 为了提高精度, 改用梯形方法计算积分项代替矩形方法计算积分项, 即将 181 | $$ 182 | \int_{x_{n}}^{x_{n+1}} f(x, y(x)) \mathrm{d} x \approx \frac{h}{2}\left[f\left(x_{n}, y\left(x_{n}\right)\right)+f\left(x_{n+1}, y\left(x_{n+1}\right)\right)\right] 183 | $$ 184 | 代入, 从而有 185 | $$ 186 | y\left(x_{n+1}\right) \approx y\left(x_{n}\right)+\frac{h}{2}\left[f\left(x_{n}, y\left(x_{n}\right)\right)+f\left(x_{n+1}, y\left(x_{n+1}\right)\right)\right] 187 | $$ 188 | 设将式中的 $ y\left(x_{n}\right), y\left(x_{n+1}\right) $ 分别用 $ y_{n}, y_{n+1} $ 代替, 作为离散化的结果导出下列计算公式 189 | $$ 190 | y_{n+1}=y_{n}+\frac{h}{2}\left[f\left(x_{n}, y_{n}\right)+f\left(x_{n+1}, y_{n+1}\right)\right] 191 | $$ 192 | 与梯形求积公式相对应的这一差分公式称作梯形公式. 193 | 194 | 设 $ y(x) $ 是微分方程初值问题的解析解, 则梯形公式的局部截断误差 195 | $$ 196 | \begin{aligned} 197 | y\left(x_{n+1}\right)-y_{n+1} & =y\left(x_{n+1}\right)-y\left(x_{n}\right)-\frac{h}{2}\left[f\left(x_{n}, y\left(x_{n}\right)\right)+f\left(x_{n+1}, y\left(x_{n+1}\right)\right)\right] \\ 198 | & =y\left(x_{n+1}\right)-y\left(x_{n}\right)-\frac{h}{2}\left[y^{\prime}\left(x_{n}\right)+y^{\prime}\left(x_{n+1}\right)\right] 199 | \end{aligned} 200 | $$ 201 | 将 $ y\left(x_{n+1}\right) $ 在 $ x_{n} $ 处泰勒展开 202 | $$ 203 | y\left(x_{n+1}\right)=y\left(x_{n}\right)+h y^{\prime}\left(x_{n}\right)+\frac{1}{2} h^{2} y^{\prime \prime}\left(x_{n}\right)+\frac{1}{6} h^{3} y^{\prime \prime \prime}\left(x_{n}\right)+O\left(h^{4}\right) 204 | $$ 205 | 将 $ y^{\prime}\left(x_{n+1}\right) $ 在 $ x_{n} $ 处泰勒展开 206 | $$ 207 | y^{\prime}\left(x_{n+1}\right)=y^{\prime}\left(x_{n}\right)+h y^{\prime \prime}\left(x_{n}\right)+\frac{1}{2} h^{2} y^{\prime \prime \prime}\left(x_{n}\right)+O\left(h^{3}\right) 208 | $$ 209 | 将上两式代入, 有 210 | $$ 211 | \begin{aligned} 212 | y\left(x_{n+1}\right)-y_{n+1}= & h y^{\prime}\left(x_{n}\right)+\frac{1}{2} h^{2} y^{\prime \prime}\left(x_{n}\right)+\frac{1}{6} h^{3} y^{\prime \prime \prime}\left(x_{n}\right)-\frac{h}{2}\left[2 y^{\prime}\left(x_{n}\right)+h y^{\prime \prime}\left(x_{n}\right)+\frac{1}{2} h^{2} y^{\prime \prime \prime}\left(x_{n}\right)\right]+O\left(h^{4}\right) \\ 213 | = & -\frac{1}{12} h^{3} y^{\prime \prime \prime}\left(x_{n}\right)+O\left(h^{4}\right) 214 | \end{aligned} 215 | $$ 216 | 梯形公式的局部截断误差为 $ O\left(h^{3}\right) $, 比欧拉公式和隐式欧拉公式高一阶. 217 | 218 | 容易看出, 梯形格式实际上是显式欧拉格式与隐式欧拉格式的算术平均.因此梯形格式是隐式方式不易求解, 一般构成如下计算公式 219 | $$ 220 | \left\{\begin{array}{l} 221 | y_{n+1}^{(0)}=y_{n}+h f\left(x_{n}, y_{n}\right) \\ 222 | y_{n+1}^{(k+1)}=y_{n}+\frac{h}{2}\left[f\left(x_{n}, y_{n}\right)+f\left(x_{n+1}, y_{n+1}^{(k)}\right)\right] \\ 223 | k=0,1,2, \cdots ; n=0,1,2, \cdots 224 | \end{array}\right. 225 | $$ 226 | 使用时, 先用第一式算出 $ x_{n+1} $ 处 $ y_{n+1} $ 的初始近似值 $ y_{n+1}^{(0)} $, 再用第二式反复进行迭代, 得到 $ y_{n+1}^{(1)}, y_{n+1}^{(2)}, \cdots $, 用 $ \left|y_{n+1}^{(k+1)}-y_{n+1}^{(k)}\right| \leqslant \varepsilon $ 控制迭代次数, $ \varepsilon $ 为允许误差.把满足误差要求的 $ y_{n+1}^{(k+1)} $ 作为 $ y\left(x_{n+1}\right) $ 的近似值 $ y_{n+1} $, 类似地可得 $ y_{n+2}, y_{n+3}, \cdots $ . 227 | 228 | 229 | 230 | \subsection{单步公式的阶} 231 | 设单步公式的局部截断误差为 232 | $$ 233 | y\left(x_{n+1}\right)-y_{n+1}=\frac{y^{(p+1)}\left(\xi_{n}\right)}{(p+1)!} h^{p+1} \approx \frac{y^{(p+1)}\left(x_{n}\right)}{(p+1)!} h^{p+1}=o\left(h^{p+1}\right), 234 | $$ 235 | 则称该单步公式具有 $ p $ 阶精度, 且其局部截断误差的首项为 236 | $$ 237 | \frac{y^{(p+1)}\left(x_{n}\right)}{(p+1)!} h^{p+1} . 238 | $$ 239 | 240 | \colorbox{yellow}{试确定 Euler 公式、隐式 Euler 公式、两步 Euler 公式的阶.} 241 | 242 | (1) Euler 公式 $y_{n+1}=y_{n}+h f\left(x_{n}, y_{n}\right) .$ 243 | 244 | 当 $ y_{n}=y\left(x_{n}\right) $ 有 245 | $$ 246 | y_{n+1}=y\left(x_{n}\right)+h f\left(x_{n}, y\left(x_{n}\right)\right)=y\left(x_{n}\right)+h y^{\prime}\left(x_{n}\right) . 247 | $$ 248 | 由 Taylor 展开式 249 | $$ 250 | \begin{aligned} 251 | y\left(x_{n+1}\right) & =y\left(x_{n}+h\right) =y\left(x_{n}\right)+h y^{\prime}\left(x_{n}\right)+\frac{h^{2}}{2} y^{\prime \prime}\left(\xi_{n}\right), \quad \xi_{n} \in\left(x_{n}, x_{n+1}\right) . 252 | \end{aligned} 253 | $$ 254 | 所以 255 | $$ 256 | y\left(x_{n+1}\right)-y_{n+1}=\frac{1}{2} y^{\prime \prime}\left(\xi_{n}\right) h^{2} \approx \frac{1}{2} y^{\prime \prime}\left(x_{n}\right) h^{2}=O\left(h^{2}\right) . 257 | $$ 258 | 由定义 , 该 Euler 公式具有一阶精度, 且其截断误差的首项为 $ \frac{1}{2} y^{\prime \prime}\left(x_{n}\right) h^{2} $. 259 | 260 | (2) 两步 Euler 公式 $y_{n+1}=y_{n-1}+2 h f\left(x_{n}, y_{n}\right)$ 261 | 262 | 设 $ y_{n-1}=y\left(x_{n-1}\right), y_{n}=y\left(x_{n}\right) $, 有 $ y_{n+1}=y\left(x_{n-1}\right)+2 h y^{\prime}\left(x_{n}\right) $. 263 | 将 264 | $$ 265 | y\left(x_{n-1}\right)=y\left(x_{n}\right)-h y^{\prime}\left(x_{n}\right)+\frac{h^{2}}{2} y^{\prime \prime}\left(x_{n}\right)-\frac{h^{3}}{3!} y^{\prime \prime}\left(\xi_{n}\right) 266 | $$ 267 | 代入上式得 268 | $$ 269 | y_{n+1}=y\left(x_{n}\right)+h y^{\prime}\left(x_{n}\right)+\frac{h_{2}}{2} y^{\prime \prime}\left(x_{n}\right)-\frac{h^{3}}{3!} y^{\prime \prime}\left(\xi_{n}\right), 270 | $$ 271 | 而 272 | $$ 273 | y\left(x_{n+1}\right)=y\left(x_{n}\right)+h y^{\prime}\left(x_{n}\right)+\frac{h^{2}}{2} y^{\prime \prime}\left(x_{n}\right)+\frac{h^{3}}{3!} y^{\prime \prime}\left(\xi_{n}\right), 274 | $$ 275 | 所以 276 | $$ 277 | y\left(x_{n+1}\right)-y_{n+1}=\frac{h^{3}}{3} y^{n}\left(\xi_{n}\right) \approx \frac{h^{3}}{3} y^{n}\left(x_{n}\right)=O\left(h^{3}\right) . 278 | $$ 279 | 由定义 , 该两步 Euler 公式具有二阶精度, 且其截断误差首项为 $ \frac{h^{3}}{3} y^{\prime \prime}\left(x_{n}\right) $. 280 | 281 | (3) 隐式 Euler 公式 $y_{n+1}=y_{n}+h f\left(x_{n+1}, y_{n+1}\right) .$ 282 | 283 | 设 $y_{n}=y\left(x_{n}\right)$，将 $ f\left(x_{n+1}, y_{n+1}\right) $ 作如下变换: 284 | $$ 285 | \begin{aligned} 286 | f\left(x_{n+1}, y_{n+1}\right) & =f\left(x_{n+1}, y\left(x_{n+1}\right)+\left(y_{n+1}-y\left(x_{n+1}\right)\right)\right) \\ 287 | & =f\left(x_{n+1}, y\left(x_{n+1}\right)\right)+f_{y}\left(x_{n+1}, \eta\right)\left(y_{n+1}-y\left(x_{n+1}\right)\right), 288 | \end{aligned} 289 | $$ 290 | 其中, $ \eta $ 个于 $ y_{n+1} $ 与 $ y\left(x_{n+1}\right) $ 之间. 所以 291 | $$ 292 | y_{n+1}=y\left(x_{n}\right)+h\left[f\left(x_{n+1}, y\left(x_{n+1}\right)\right)+f_{y}\left(x_{n+1}, \eta\right)\left(y_{n+1}-y\left(x_{n+1}\right)\right)\right] . 293 | $$ 294 | 而 295 | $$ 296 | \begin{aligned} 297 | f\left(x_{n+1}, y\left(x_{n+1}\right)\right) & =y^{\prime}\left(x_{n+1}\right) \\ 298 | & =y^{\prime}\left(x_{n}\right)+h y^{\prime \prime}\left(x_{n}\right)+\frac{h^{2}}{2} y^{\prime \prime}\left(x_{n}\right)+\cdots 299 | \end{aligned} 300 | $$ 301 | 将其代入上式得 302 | $$ 303 | y_{n+1}=h f_{y}\left(x_{n+1}, \eta\right)\left(y_{n+1}+y\left(x_{n+1}\right)\right)+y\left(x_{n}\right)+h y^{\prime}\left(x_{n}\right)+h^{2} y^{\prime \prime}\left(x_{n}\right)+\frac{h^{3}}{2} y^{n}\left(x_{n}\right)+\cdots 304 | $$ 305 | 而 $ \quad y\left(x_{n+1}\right)=y\left(x_{n}\right)+h y^{\prime}\left(x_{n}\right)+\frac{h^{2}}{2} y^{\prime \prime}\left(x_{n}\right)+\frac{h^{3}}{3!} y^{\prime \prime}\left(x_{n}\right)+\cdots $ 306 | 两式相减得 307 | $$ 308 | \begin{aligned} 309 | y\left(x_{n+1}\right)-y_{n+1}= & -h f_{y}\left(x_{n+1}, \eta\right)\left(y_{n+1}-y\left(x_{n+1}\right)\right)+\left(\frac{1}{2}-1\right) h^{2} y^{\prime \prime}\left(x_{n}\right) +\left(\frac{1}{3!}-\frac{1}{2}\right) h^{3} y^{\prime \prime}\left(x_{n}\right)+\cdots \\ 310 | = & -h f_{y}\left(x_{n+1}, \eta\right)\left(y_{n+1}-y\left(x_{n+1}\right)\right)-\frac{1}{2} h^{2} y^{\prime \prime}\left(x_{n}\right)+\cdots 311 | \end{aligned} 312 | $$ 313 | 整理上式得 314 | $$ 315 | \left[1-h f_{y}\left(x_{n+1}, \eta\right)\right]\left(y\left(x_{n+1}\right)-y_{n+1}\right)=-\frac{1}{2} h^{2} y^{\prime \prime}\left(x_{n}\right)+\cdots 316 | $$ 317 | 据$\frac{1}{1-x}=1+x+x^{2}+\cdots$ 得 318 | $$ 319 | \frac{1}{1-h f_{y}\left(x_{n+1}, \eta\right)}=1+h f_{y}\left(x_{n+1}, \eta\right)+\ldots 320 | $$ 321 | 并将其代入得 322 | $$ 323 | y\left(x_{n+1}\right)-y_{n+1}=-\frac{1}{2} h^{2} y^{\prime \prime}\left(x_{n}\right)-\frac{1}{2} h^{3} y^{\prime \prime}\left(x_{n}\right) f_{y}\left(x_{n+1}, \eta\right)+\ldots 324 | $$ 325 | 所以 326 | $$ 327 | y\left(x_{n+1}\right)-y_{n+1} \approx-\frac{1}{2} h^{2} y^{\prime \prime}\left(x_{n}\right)=O\left(h^{2}\right) . 328 | $$ 329 | 故该隐式 Euler 公式具有一阶精度，且其阵断误差的首项为 $ -\frac{1}{2} h^{2} y^{\prime \prime}\left(x_{n}\right) $. 330 | 331 | (4) 梯形公式 $y_{n+1}=y_{n}+\frac{h}{2}\left[f\left(x_{n}, y_{n}\right)+f\left(x_{n+1}, y_{n+1}\right)\right] .$ 332 | 333 | 用类似于 (3) 中的方法可证(或者前面章节的内容)得 334 | $$ 335 | y\left(x_{n+1}\right)-y_{n+1} \approx-\frac{h^{3}}{12} y^{\prime \prime}\left(x_{n}\right)=O\left(h^{3}\right), 336 | $$ 337 | 即梯形公式具有二阶精度, 且其截断误差的首项为 $ -\frac{h^{3}}{12} y^{\prime \prime}\left(x_{n}\right) $. 338 | 339 | 归纳上述结论如下:\\ 340 | Euler 公式: $ y\left(x_{n+1}\right)-y_{n+1} \approx \frac{y^{\prime \prime}\left(x_{n}\right)}{2} h^{2}=O\left(h^{2}\right) $, 一阶精度;\\ 341 | 隐式 Euler 公式: $ y\left(x_{n+1}\right)-y_{n+1} \approx-\frac{y^{\prime \prime}\left(x_{n}\right)}{2} h^{2}=O\left(h^{2}\right) $, 一阶精度;\\ 342 | 两步 Euler 公式: $ y\left(x_{n+1}\right)-y_{n+1} \approx \frac{y^{n}\left(x_{n}\right)}{3} h^{3}=O\left(h^{3}\right) $, 二阶精度;\\ 343 | 梯形公式: $ y\left(x_{n+1}\right)-y_{n+1} \approx-\frac{y^{\prime \prime}\left(x_{n}\right)}{12} h^{3}=O\left(h^{3}\right) $, 二阶精度. -------------------------------------------------------------------------------- /插值法与曲线拟合.tex: -------------------------------------------------------------------------------- 1 | \newpage 2 | \section{插值法与曲线拟合} 3 | 4 | \subsection{知识点概述} 5 | \textcolor{blue}{1. 插值法} 6 | 7 | 设函数 $ y=f(x) $ 在区间 $ [a, b] $ 上有定义, 且已知在点 $ a \leqslant x_{0} 0 104 | $$ 105 | 所以，梯形公式的近似值 $T$ 加上误差项 $R(f)$ 得到真实积分值： 106 | $$ 107 | \int_{a}^{b} f(x) \, dx = T + R(f) 108 | $$ 109 | 因为 $R(f) > 0$，所以： 110 | $$ 111 | \int_{a}^{b} f(x) \, dx > T 112 | $$ 113 | 这意味着用梯形公式计算积分的结果 $T$ 比实际积分值要小. 114 | 115 | 几何意义：当 $f''(x) < 0$ 时，函数 $f(x)$ 是上凸的（即凸向上）.在这种情况下，连接 $ (a, f(a)) $ 和 $ (b, f(b)) $ 的直线位于曲线 $f(x)$ 的下方.因此，梯形公式计算的面积实际上小于实际的曲边梯形面积. 116 | 117 | 综上所述，如果 $f''(x) < 0$，则利用梯形公式计算积分 $\int_{a}^{b} f(x) \, dx$ 的值比精确值要小.因此，该说法是错误的. 118 | 119 | \textcolor{blue}{当 $ f^{\prime \prime}(x)>0 $ 时，函数 $ f(x) $ 是下凸的（即凸向下）.在这种情况下，连接 $ (a, f(a)) $ 和 $ (b, f(b)) $的直线位于曲线 $ f(x) $ 的上方.因此，梯形公式计算的面积实际上大于实际的曲边梯形面积.如果 $ f^{\prime \prime}(x)>0 $ ，则利用梯形公式计算积分 $ \int_{a}^{b} f(x) d x $ 的值比精确值要大.因此，该说法是正确的.} 120 | 121 | \vspace{\baselineskip} 122 | 123 | (4) $\operatorname{cond}(A)_{\infty}=\left\|A^{-1}\right\|_{\infty} \cdot\|A\|_{\infty}$ . 124 | $$ 125 | \begin{array}{l} 126 | A=\left(\begin{array}{ll} 127 | 1 & 2 \\ 128 | 0 & 1 129 | \end{array}\right) \quad A^{-1}=\left(\begin{array}{cc} 130 | 1 & -2 \\ 131 | 0 & 1 132 | \end{array}\right) \\ 133 | \end{array} 134 | $$ 135 | $$\|A\|_{1}=\max _{1 \leqslant i \leqslant n} \sum_{j=1}^{n}\left|a_{i j}\right|=\max \{|1|+|2|,|0|+|1|\} 136 | =\max \{3,1\}=3 $$ 137 | 138 | 同理 $ \left\|A^{-1}\right\|_{1}=\max \{|1|+|-2|,|0|+|1|\}=3 $. 139 | 因此 $ \operatorname{cond}_{1}(A)=\left\|A^{-1}\right\|_{\infty}\|A\|_{\infty}=9 $. 140 | 141 | \vspace{\baselineskip} 142 | 143 | (5) 求非线性方程的Newton迭代法至少是 一 阶收敛的.对于具有简单根的非线性方程，Newton迭代法通常是二阶收敛的，即误差的平方项主导收敛速度.但是，当非线性方程存在重根时，Newton迭代法的收敛速度会降到一阶.因此，考虑所有情况，包括重根的情况，Newton迭代法至少是一阶收敛的. 144 | 145 | \vspace{\baselineskip} 146 | 147 | (6) 线性插值多项式的通用形式为： 148 | 149 | $$ 150 | L(x) = f(x_0) \frac{x - x_1}{x_0 - x_1} + f(x_1) \frac{x - x_0}{x_1 - x_0} 151 | $$ 152 | 其中，$ x_0 = 4 $，$ x_1 = 9 $，$ f(x_0) = 2 $，$ f(x_1) = 3 $.将这些值代入公式： 153 | $$ 154 | L(x) = 2\cdot \frac{x - 9}{4 - 9} + 3\cdot \frac{x - 4}{9 - 4} = -\frac{2}{5} (x - 9) + \frac{3}{5} (x - 4) = \frac{1}{5} x + \frac{6}{5} 155 | $$ 156 | 因此，线性插值多项式 $ L(x) $ 为：$L(x) = \frac{1}{5} x + \frac{6}{5}$. 157 | 接下来，我们用这个插值多项式计算 $ f(7) $ 的近似值： 158 | $$ 159 | f(7) \approx L(7) = \frac{1}{5} \cdot 7 + \frac{6}{5} = \frac{13}{5} = 2.6 160 | $$ 161 | 因此，$ f(x) $ 的线性插值多项式为 $ \frac{1}{5} x + \frac{6}{5} $，且用线性插值可得 $ f(7) \approx 2.6 $. 162 | 163 | \vspace{\baselineskip} 164 | 165 | (7) $x_{0} =2, x_{1}=3, x_{2}=4 , y_{0} =3, y_{1}=5, y_{2}=4 $.于是 166 | $$ 167 | \begin{aligned} 168 | L_{2}(x) & =3 \cdot \frac{(x-3)(x-4)}{(2-3)(2-4)}+5 \cdot \frac{(x-2)(x-4)}{(3-2)(3-4)}+4 \cdot \frac{(x-2)(x-3)}{(4-2)(4-3)} \\ 169 | & =\frac 32 (x-3)(x-4)+(-(x-2)(x-4)+2(x-2)(x-3) \\ 170 | & =-\frac{3}{2} x^{2}+\frac{19}{2} x-10 171 | \end{aligned} 172 | $$ 173 | 174 | \vspace{\baselineskip} 175 | 176 | (8) 错.虽然在一定范围内增加插值节点的数量可以减少插值误差，但是如果节点数过多，特别是使用等距节点时，会导致龙格现象，这会使误差显著增大.因此，尽管增加插值节点的数量有时可以提高精度，但它并不总是减少插值误差，尤其是在使用多项式插值时.因此，这一说法是错的. 177 | 178 | \vspace{\baselineskip} 179 | 180 | (9)错. 虽然较小的步长可以减少截断误差，从而在某些情况下提高结果的精确度，但过小的步长会增加舍入误差.舍入误差是由于计算机有限的精度所导致的.当步长太小时，数值微分的计算结果会受到舍入误差的显著影响，反而会降低精确度.因此，选择适当的步长是平衡截断误差和舍入误差的关键. 181 | 182 | 综上所述，步长越小计算结果越精确的说法是错的. -------------------------------------------------------------------------------- /解线性方程组的迭代法.tex: -------------------------------------------------------------------------------- 1 | \newpage 2 | \section{解线性方程组的迭代法} 3 | 4 | \subsection{ 知识点概述} 5 | 6 | \textcolor{blue}{1. 迭代法的收敛} 7 | 8 | 对任意给定的向量 $ x^{(0)} \in \mathbf{R}^{n} $, 若迭代法生成的序列 $ \left\{x^{(k)}\right\}_{k=0}^{\infty} $ 满足 9 | $$ 10 | \lim _{k \rightarrow \infty} x^{(k)}=x^{*}, \quad \forall x^{(0)} \in \mathbf{R}^{n} 11 | $$ 12 | 则称迭代法是收敛的. 13 | 14 | \textcolor{blue}{2. Jacobi 迭代} 15 | 迭代格式 16 | $ 17 | \left\{\begin{array}{l} 18 | x_{1}^{(k+1)}=\frac{1}{a_{11}}\left(-a_{12} x_{2}^{(k)}-\cdots-a_{1 n} x_{n}^{(k)}+b_{1}\right), \\ 19 | x_{2}^{(k+1)}=\frac{1}{a_{22}}\left(-a_{21} x_{1}^{(k)}-\cdots-a_{2 n} x_{n}^{(k)}+b_{2}\right), \\ 20 | \cdots \cdots \\ 21 | x_{n}^{(k+1)}=\frac{1}{a_{n n}}\left(-a_{n 1} x_{1}^{(k)}-\cdots-a_{n n-1} x_{n-1}^{(k)}+b_{n}\right), 22 | \end{array}\right.\quad k=0,1,2, \cdots 23 | $ 24 | 称为 Jacobi 迭代格式, 这里需要注意若某个 $ a_{i i}=0 $, 则可以交换两个方程 (行交换) 处理, 其迭代矩阵构造如下. 25 | 26 | 将线性方程组的系数矩阵 $ A=\left[a_{i j}\right] \in \mathbf{R}^{n \times n} $ 分解为 $ A=D-L-U $, 其中 27 | $$ 28 | \begin{array}{l} 29 | D=\left[\begin{array}{llll} 30 | a_{11} & & & \\ 31 | & a_{22} & & \\ 32 | & & \ddots & \\ 33 | & & & a_{n n} 34 | \end{array}\right], \quad L=\left[\begin{array}{ccccc} 35 | 0 & & & & \\ 36 | -a_{21} & 0 & & & \\ 37 | -a_{31} & -a_{32} & 0 & & \\ 38 | \vdots & \vdots & \vdots & \ddots & \\ 39 | -a_{n 1} & -a_{n 2} & \cdots & -a_{n n-1} & 0 40 | \end{array}\right] \\ 41 | U=\left[\begin{array}{ccccc} 42 | 0 & -a_{12} & -a_{13} & \cdots & -a_{1 n} \\ 43 | & 0 & -a_{23} & \cdots & -a_{2 n} \\ 44 | & & 0 & \ddots & \vdots \\ 45 | & & & \ddots & -a_{n-1 n} \\ 46 | & & & & 0 47 | \end{array}\right] \\ 48 | \end{array} 49 | $$ 50 | 若系数矩阵 $ A $ 的对角元素 $ a_{i i} \neq 0, i=1,2, \cdots, n $, 则矩阵 $ D $ 非奇异, 因此 $ A x=b $ 化简成 51 | $$ 52 | (D-L-U) x=b 53 | $$ 54 | 因此 55 | $$ 56 | x=D^{-1}(L+U) x+D^{-1} b=B_{J} x+f_{J} 57 | $$ 58 | 因而, 构造的迭代格式为 $ x^{(k+1)}=D^{-1}(L+U) x^{(k)}+D^{-1} b, k=0,1,2, \cdots $, 其中 59 | $$ 60 | B_{J}=D^{-1}(L+U), \quad f_{J}=D^{-1} b 61 | $$ 62 | 称为解线性方程组的 Jacobi 迭代法的迭代矩阵. 63 | 64 | \textcolor{blue}{3. Gauss-Seidel 迭代} 65 | 66 | 基于 “实时更新” 思想可以对 Jacobi 迭代法进行修改, 利用最新分量去代替旧的分量来计算, 由此得到的迭代法称为 Gauss-Seidel 迭代法格式. 67 | $$ 68 | \left\{\begin{array}{l} 69 | x_{1}^{(k+1)}= \frac{1}{a_{11}}\left(-a_{12} x_{2}^{(k)}-\cdots-a_{1 n} x_{n}^{(k)}+b_{1}\right) \\ 70 | x_{2}^{(k+1)}= \frac{1}{a_{22}}\left(-a_{21} x_{1}^{(k+1)}-a_{23} x_{3}^{(k)}-a_{24} x_{4}^{(k)}-\cdots-a_{2 n} x_{n}^{(k)}+b_{2}\right), \\ 71 | x_{3}^{(k+1)}= \frac{1}{a_{33}}\left(-a_{31} x_{1}^{(k+1)}-a_{32} x_{2}^{(k+1)}-a_{34} x_{4}^{(k)}-\cdots-a_{3 n} x_{n}^{(k)}+b_{3}\right), \\ 72 | \cdots \cdots \\ 73 | x_{n}^{(k+1)}= \frac{1}{a_{n n}}\left(-a_{n 1} x_{1}^{(k+1)}-a_{n 2} x_{2}^{(k+1)}-a_{n 3} x_{3}^{(k+1)}-\cdots-a_{n n-1} x_{n-1}^{(k+1)}+b_{n}\right), \\ 74 | k=0,1,2, \cdots 75 | \end{array}\right. 76 | $$ 77 | 其迭代矩阵构造如下 $ (D-L-U) x=b $, 因此 78 | $$ 79 | x=(D-L)^{-1} U x+(D-L)^{-1} b \triangleq B_{G} x+f_{G} 80 | $$ 81 | 因而, 构造的迭代法为 82 | $$ 83 | x^{(k+1)}=(D-L)^{-1} U x^{(k)}+(D-L)^{-1} b, \quad k=0,1,2, \cdots 84 | $$ 85 | 注意这里更新的是 Jacobi 迭代中的矩阵 $ L $, 或者也可以写成 86 | $$ 87 | x^{(k+1)}=D^{-1} L x^{(k+1)}+D^{-1} U x^{(k)}+D^{-1} b 88 | $$ 89 | 其中, $ B_{G}=(D-L)^{-1} U, f_{G}=(D-L)^{-1} b $ 称为解线性方程组的 Gauss-Seidel 选代法的迭代矩阵. 90 | 91 | \textcolor{blue}{4. SOR 迭代} 92 | 93 | (1) 迭代格式 94 | $$ 95 | x^{(k+1)}=(1-\omega) x^{(k)}+\omega D^{-1} L x^{(k+1)}+\omega D^{-1} U x^{(k)}+\omega D^{-1} b, k=0,1,2, \cdots 96 | $$ 97 | 或者 98 | $$ 99 | \begin{array}{c} 100 | x^{(k+1)}=\left(I-\omega D^{-1} L\right)^{-1}\left((1-\omega) I+\omega D^{-1} U\right) x^{(k)}+\omega\left(I-\omega D^{-1} L\right)^{-1} D^{-1} b \quad k=0,1,2, \cdots 101 | \end{array} 102 | $$ 103 | 104 | (2) 迭代矩阵 105 | $$ 106 | B_{S}=\left(I-\omega D^{-1} L\right)^{-1}\left((1-\omega) I+\omega D^{-1} U\right), \quad f_{S}=\omega\left(I-\omega D^{-1} L\right)^{-1} D^{-1} b 107 | $$ 108 | 当 $ \omega=1 $ 时即为 Gauss-Seidel 迭代法; 当 $ 0<\omega<1 $ 时, 该方法称为低松驰;当 $ \omega>1 $ 时, 则称为超松他. 在实际中真正使用的 $ \omega $ 值通常的范围为 $ 1<\omega<2 $,因此被统称为逐次超松驰方法, 简称 SOR 方法. 109 | 110 | \textcolor{blue}{5. 迭代法收敛性} 111 | 112 | 对任意的初始向量 $ x^{(0)} \in \mathbf{R}^{n} $ 和常向量 $ f \in \mathbf{R}^{n} $, 由迭代格式形成的向量序列 $ \left\{x^{(k)}\right\}_{k=0}^{\infty} $ 收敛的充要条件是 $ \rho(G)<1 $. 113 | 114 | 设有线性方程组 $ A x=b $, 构造迭代格式 $ x^{(k+1)}=B x^{(k)}+f $, 如果对任意矩阵范数有 $ \|B\|<1 $, 则对任意初始向量 $ x^{(0)} $, 迭代序列 $ \left\{x^{(k)}\right\}_{k=0}^{\infty} $ 收敛于方程组的解 $ x^{*} $, 且满足下面误差界: 115 | 116 | (1) $\displaystyle \left\|x^{(k)}-x^{*}\right\| \leqslant \frac{\|B\|}{1-\|B\|}\left\|x^{(k)}-x^{(k-1)}\right\| $; 117 | 118 | (2) $\displaystyle \left\|x^{(k)}-x^{*}\right\| \leqslant \frac{\|B\|^{k}}{1-\|B\|}\left\|x^{(1)}-x^{(0)}\right\| $. 119 | 120 | 设线性方程组 $ A x=b $, 则下列结论成立:\\ 121 | (1) 若 $ A $ 为严格对角占优矩阵, 则 Jacobi 迭代法和 Gauss-Seidel 选代法均收敛;\\ 122 | (2) 若 $ A $ 为严格对角占优矩阵, $ 0<\omega \leqslant 1 $, 则松驰法收敛;\\ 123 | (3) 若 $ A $ 为对称正定矩阵, $ 0<\omega<2 $, 则松驰法收敛;\\ 124 | (4) SOR 迭代法收敛, 松驰因子 $ 0<\omega<2 $. 125 | 126 | 127 | \subsection{补充} 128 | \subsubsection{收敛的基本定理} 129 | 130 | 迭代收敛的充分必要条件需要用到矩阵谱半径的概念, 所以先介绍关于谱半径的定义和特点. 131 | 132 | 定义: 矩阵 $ \boldsymbol{A} \in \mathbf{R}^{n \times n} $ 的所有特征值 $ \lambda_{i}(i=1,2, \cdots, n) $ 的模的最大值称为矩阵 $ \boldsymbol{A} $ 的谱半径 $ \rho(A) $, 即 133 | $$ 134 | \rho(\boldsymbol{A})=\max _{1 \leqslant i \leqslant n}\left|\lambda_{i}\right| 135 | $$ 136 | \begin{tcolorbox}[enhanced,colback=2,colframe=1,breakable,coltitle=black,title=定理] 137 | 矩阵 $ \boldsymbol{A} $ 的谱半径不超过矩阵 $ \boldsymbol{A} $ 的任一种范数 $ \|\boldsymbol{A}\|$. 138 | \end{tcolorbox} 139 | 证: 设 $ \lambda $ 为 $ \boldsymbol{A} $ 的任一特征值, $ x $ 为对应于 $ \lambda $ 的 $ \boldsymbol{A} $ 的特征向量, 即 140 | $$ 141 | A x=\lambda x \quad(x \neq 0) 142 | $$ 143 | 由范数的性质, 有 144 | $$ 145 | |\lambda|\|x\|=\|\lambda x\|=\|A \boldsymbol{x}\| \leqslant\|\boldsymbol{A}\| \boldsymbol{x} \| 146 | $$ 147 | 由于 $ x $ 是非零向量, 故有 148 | $$ 149 | |\lambda| \leqslant\|\boldsymbol{A}\| 150 | $$ 151 | 这表明 $ \boldsymbol{A} $ 的任一特征值的模不超过 $ \|\boldsymbol{A}\| $, 于是 152 | $$ 153 | \rho(\boldsymbol{A}) \leqslant\|\boldsymbol{A}\| 154 | $$ 155 | 由于矩阵 $ \boldsymbol{A} $ 有些范数( 如 $ \|\boldsymbol{A}\|_{\infty} $ 和 $ \|\boldsymbol{A}\|_{1} $ ) 远比特征值容易计算, 故常用该定理来估计矩阵特征值的上界. 156 | \begin{tcolorbox}[enhanced,colback=2,colframe=1,breakable,coltitle=black,title=迭代法收敛基本定理] 157 | 迭代过程 $ x^{(k+1)}=B x^{(k)}+f $ 对任给初始向量 $ x^{(0)} $ 收敛的充分必要条件是迭代矩阵的谱半径 $ \rho(B)<1 $, 且当 $ \rho(B)<1 $ 时, 迭代矩阵谱半径越小, 收敛速度越快. 158 | \end{tcolorbox} 159 | 证明: (必要性) 设由迭代格式产生的向量序列 $ \left\{\boldsymbol{x}^{(k)}\right\} $ 收敛于 $ \boldsymbol{x}^{*} $, 则在迭代格式 的两边令 $ k \rightarrow \infty $, 有 160 | $$ 161 | \boldsymbol{x}^{*}=\boldsymbol{B} \boldsymbol{x}^{*}+f 162 | $$ 163 | 记 $ \boldsymbol{\varepsilon}^{(k)}=\boldsymbol{x}^{*}-\boldsymbol{x}^{(k)} $, 则 164 | $$ 165 | \begin{aligned} 166 | \boldsymbol{\varepsilon}^{(k)} & =\boldsymbol{x}^{*}-\boldsymbol{x}^{(k)}=\left(\boldsymbol{B} \boldsymbol{x}^{*}+\boldsymbol{f}\right)-\left(\boldsymbol{B} \boldsymbol{x}^{(k-1)}+\boldsymbol{f}\right) \\ 167 | & =\boldsymbol{B}\left(\boldsymbol{x}^{*}-\boldsymbol{x}^{(k-1)}\right), \quad k=0,1,2, \cdots 168 | \end{aligned} 169 | $$ 170 | 递推得 171 | $$ 172 | \boldsymbol{\varepsilon}^{(k)}=\boldsymbol{B} \boldsymbol{\varepsilon}^{(k-1)}=\cdots=\boldsymbol{B}^{k} \boldsymbol{\varepsilon}^{(0)}, \quad k=0,1,2, \cdots . 173 | $$ 174 | 由于 $ \boldsymbol{x}^{(0)} $ 是任意的, 因而 $ \boldsymbol{\varepsilon}^{(0)} $ 也是任意的, 故若 $ \lim\limits _{k \rightarrow \infty} \boldsymbol{B}^{k} \boldsymbol{\varepsilon}^{(0)}=\mathbf{0} $, 必有 $ \lim\limits _{k \rightarrow \infty} \boldsymbol{B}^{k}=\boldsymbol{O} $. 于是可得 $ \rho(\boldsymbol{B})<1 $. 175 | 176 | (充分性) 设 $ \rho(\boldsymbol{B})<1 $, 则 1 不是 $ \boldsymbol{B} $ 的特征值,因而 $ |\boldsymbol{I}-\boldsymbol{B}| \neq 0,(\boldsymbol{I}-\boldsymbol{B}) \boldsymbol{x}=f $ 177 | 有唯一解 $ \boldsymbol{x}^{*} $, 即 178 | $$ 179 | \boldsymbol{x}^{*}=B x^{*}+f 180 | $$ 181 | 于是 182 | $$ 183 | \begin{aligned} 184 | \boldsymbol{\varepsilon}^{(k)} & =\boldsymbol{x}^{*}-\boldsymbol{x}^{(k)}=\left(\boldsymbol{B} \boldsymbol{x}^{*}+\boldsymbol{f}\right)-\left(\boldsymbol{B} \boldsymbol{x}^{(k-1)}+\boldsymbol{f}\right) \\ 185 | & =\boldsymbol{B}\left(\boldsymbol{x}^{*}-\boldsymbol{x}^{(k-1)}\right)=\boldsymbol{B} \boldsymbol{\varepsilon}^{(k-1)}, \quad k=0,1,2, \cdots, 186 | \end{aligned} 187 | $$ 188 | 递推得 189 | $$ 190 | \boldsymbol{\varepsilon}^{(k)}=\boldsymbol{B}^{k} \boldsymbol{\varepsilon}^{(0)}, \quad k=0,1,2, \cdots . 191 | $$ 192 | 可知 $ \lim\limits _{k \rightarrow \infty} \boldsymbol{B}^{k}=\boldsymbol{O} $, 所以 $ \lim\limits _{k \rightarrow \infty} \boldsymbol{\varepsilon}^{(k)}=\mathbf{0} $, 即 $ \lim\limits _{k \rightarrow \infty} \boldsymbol{x}^{(k)}=\boldsymbol{x}^{*} $. 193 | 定理证毕. 194 | 195 | 196 | \subsubsection{迭代矩阵法} 197 | 首先介绍一个引理, 然后证明判断收敛性的定理. 198 | 199 | \textcolor{red}{引理:}若方阵 $ \boldsymbol{B} $ 满足 $ \|\boldsymbol{B}\|<1 $, 则 $ \boldsymbol{I}-\boldsymbol{B} $ 为非奇异矩阵, 且 200 | $$ 201 | \left\|(\boldsymbol{I} \pm \boldsymbol{B})^{-1}\right\| \leqslant \frac{1}{1-\|\boldsymbol{B}\|} 202 | $$ 203 | 204 | 证: 用反证法.若 $ \boldsymbol{I}-\boldsymbol{B} $ 为奇异矩阵, 则存在非零向量 $ \boldsymbol{x} $, 使即有 205 | $$ 206 | \begin{array}{c} 207 | (I-B) x=0 \\ 208 | x=B x 209 | \end{array} 210 | $$ 211 | 由相容性条件得 212 | $$ 213 | \|x\|=\|B x\| \leqslant\|B\|\|x\| 214 | $$ 215 | 由于 $ \boldsymbol{x} \neq \mathbf{0} $, 两端消去 $ \|\boldsymbol{x}\| $, 有 216 | $$ 217 | \|\boldsymbol{B}\| \geqslant 1 218 | $$ 219 | 和已知矛盾, 假设不成立.命题得证. 220 | 221 | 又由于 $ (\boldsymbol{I}-\boldsymbol{B})(\boldsymbol{I}-\boldsymbol{B})^{-1}=\boldsymbol{I} $, 有 222 | $$ 223 | \begin{array}{l} 224 | (\boldsymbol{I}-\boldsymbol{B})^{-1}-\boldsymbol{B}(\boldsymbol{I}-\boldsymbol{B})^{-1}=\boldsymbol{I} \\ 225 | (\boldsymbol{I}-\boldsymbol{B})^{-1}=\boldsymbol{I}+\boldsymbol{B}(\boldsymbol{I}-\boldsymbol{B})^{-1} 226 | \end{array} 227 | $$ 228 | 将式中 $ B $ 分别取成 $ B $ 和 $ -\boldsymbol{B} $, 再取范数 229 | $$ 230 | \left\|(\boldsymbol{I} \pm \boldsymbol{B})^{-1}\right\| \leqslant\|\boldsymbol{I}\|+\|\boldsymbol{B}\|\left\|(\boldsymbol{I} \pm \boldsymbol{B})^{-1}\right\| 231 | $$ 232 | 又已知 $ \|\boldsymbol{B}\|<1 $, 有 233 | $$ 234 | \left\|(\boldsymbol{I} \pm \boldsymbol{B})^{-1}\right\| \leqslant \frac{1}{1-\|\boldsymbol{B}\|} 235 | $$ 236 | 237 | 下面给出用迭代法迭代矩阵判断收敛性的\textbf{充分条件}. 238 | 239 | \begin{tcolorbox}[enhanced,colback=2,colframe=1,breakable,coltitle=black,title=定理] 240 | 若迭代矩阵 $ \boldsymbol{B} $ 满足 $ \|\boldsymbol{B}\|<1 $, 则迭代过程 $ \boldsymbol{x}^{(k+1)}=\boldsymbol{B} \boldsymbol{x}^{(k)}+\boldsymbol{f} $ 对任意初值 $ \boldsymbol{x}^{(0)} $ 均收敛于 $ \boldsymbol{x}=\boldsymbol{B} \boldsymbol{x}+\boldsymbol{f} $ 的根 $ \boldsymbol{x}^{*} $, 且有 241 | $$ 242 | \begin{aligned} 243 | &\left\|\boldsymbol{x}^{*}-\boldsymbol{x}^{(k)}\right\| \leqslant \frac{\|\boldsymbol{B}\|}{1-\|\boldsymbol{B}\|}\left\|\boldsymbol{x}^{(k)}-\boldsymbol{x}^{(k-1)}\right\| \\ 244 | &\left\|x^{*}-x^{(k)}\right\| \leqslant \frac{\|\boldsymbol{B}\|^{k}}{1-\|\boldsymbol{B}\|}\left\|\boldsymbol{x}^{(1)}-\boldsymbol{x}^{(0)}\right\| 245 | \end{aligned} 246 | $$ 247 | \end{tcolorbox} 248 | 证: 因为 $ \|\boldsymbol{B}\|<1 $, 则 $ \boldsymbol{I}-\boldsymbol{B} $ 为非奇异矩阵, 故 $ \boldsymbol{x}=\boldsymbol{B} \boldsymbol{x}+\boldsymbol{f} $ 有唯一解 $ \boldsymbol{x}^{*} $, 即 249 | $$ 250 | x^{*}=B x^{*}+f 251 | $$ 252 | 和迭代过程 $ \boldsymbol{x}^{(k)}=\boldsymbol{B} \boldsymbol{x}^{(k-1)}+\boldsymbol{f} $ 相比较, 有 253 | $$ 254 | \boldsymbol{x}^{*}-\boldsymbol{x}^{(k)}=\boldsymbol{B}\left(\boldsymbol{x}^{*}-\boldsymbol{x}^{(k-1)}\right) 255 | $$ 256 | 取范数 257 | $$ 258 | \left\|\boldsymbol{x}^{*}-\boldsymbol{x}^{(k)}\right\| \leqslant\|\boldsymbol{B}\|\left\|\boldsymbol{x}^{*}-\boldsymbol{x}^{(k-1)}\right\| 259 | $$ 260 | 反复递推 261 | $$ 262 | \left\|\boldsymbol{x}^{*}-\boldsymbol{x}^{(k)}\right\| \leqslant\|\boldsymbol{B}\|^{k}\left\|\boldsymbol{x}^{*}-\boldsymbol{x}^{(0)}\right\| 263 | $$ 264 | 当 $ k \rightarrow+\infty $, 并注意 $ \|\boldsymbol{B}\|<1 $, 有 265 | $$ 266 | \left\|\boldsymbol{x}^{*}-\boldsymbol{x}^{(k)}\right\| \rightarrow 0(k \rightarrow+\infty) 267 | $$ 268 | 即$\lim\limits _{k \rightarrow+\infty} \boldsymbol{x}^{(k)}=\boldsymbol{x}^{*}$.于是 269 | $$ 270 | \begin{array}{l} 271 | \left\|\boldsymbol{x}^{*}-\boldsymbol{x}^{(k)}\right\|=\left\|\boldsymbol{B}\left(\boldsymbol{x}^{*}-\boldsymbol{x}^{(k-1)}\right)\right\| \leqslant\|\boldsymbol{B}\|\left\|\boldsymbol{x}^{*}-\boldsymbol{x}^{(k-1)}\right\| \\ 272 | =\|\boldsymbol{B}\|\left\|\boldsymbol{x}^{*}-\boldsymbol{x}^{(k)}+\boldsymbol{x}^{(k)}-\boldsymbol{x}^{(k-1)}\right\| \\ 273 | \leqslant\|\boldsymbol{B}\|\left\|\boldsymbol{x}^{*}-\boldsymbol{x}^{(k)}\right\|+\|\boldsymbol{B}\|\left\|\boldsymbol{x}^{(k)}-\boldsymbol{x}^{(k-1)}\right\| 274 | \end{array} 275 | $$ 276 | $$(1-\|\boldsymbol{B}\|)\left\|\boldsymbol{x}^{*}-\boldsymbol{x}^{(k)}\right\| \leqslant\|\boldsymbol{B}\|\left\|\boldsymbol{x}^{(k)}-\boldsymbol{x}^{(k-1)}\right\| \Rightarrow 277 | \left\|\boldsymbol{x}^{*}-\boldsymbol{x}^{(k)}\right\| \leqslant \frac{\|\boldsymbol{B}\|}{1-\|\boldsymbol{B}\|}\left\|\boldsymbol{x}^{(k)}-\boldsymbol{x}^{(k-1)}\right\|$$ 278 | 279 | 280 | 同理, 有 281 | $$ 282 | \begin{aligned} 283 | \boldsymbol{x}^{(k)}-\boldsymbol{x}^{(k-1)} & =\boldsymbol{B}\left(\boldsymbol{x}^{(k-1)}-\boldsymbol{x}^{(k-2)}\right)=\boldsymbol{B}^{2}\left(\boldsymbol{x}^{(k-2)}-\boldsymbol{x}^{(k-3)}\right) \\ 284 | & =\cdots=\boldsymbol{B}^{k-1}\left(\boldsymbol{x}^{(1)}-\boldsymbol{x}^{(0)}\right) 285 | \end{aligned} 286 | $$ 287 | 代入上式，得 288 | $$ 289 | \left\|\boldsymbol{x}^{*}-\boldsymbol{x}^{(k)}\right\| \leqslant \frac{\|\boldsymbol{B}\|^{k}}{1-\|\boldsymbol{B}\|}\left\|\boldsymbol{x}^{(1)}-\boldsymbol{x}^{(0)}\right\| 290 | $$ 291 | 由定理知, 当 $ \|\boldsymbol{B}\|<1 $ 时, 其值越小, 迭代收敛越快.当 $ \boldsymbol{B} $ 的某一种范数满足 $ \|\boldsymbol{B}\|<1 $ 时, 如果相邻两次迭代 $ \left\|\boldsymbol{x}^{(k)}-\boldsymbol{x}^{(k-1)}\right\|<\varepsilon, \varepsilon $ 为给定的精度要求, 则 $ \left\|\boldsymbol{x}^{*}-\boldsymbol{x}^{(k)}\right\|<\frac{\|\boldsymbol{B}\|}{1-\|\boldsymbol{B}\|} \varepsilon $, 所以, 在计算中通常用 $ \left\|x^{(k)}-x^{(k-1)}\right\|<\varepsilon $ 作为控制迭代结束的条件. 292 | 293 | \subsubsection{严格对角占优阵非奇异的证明} 294 | \textbf{严格对角占优阵非奇异} 295 | 296 | 证: 严格对角占优阵其主对角线元素 $ a_{i i} $ 全部不为 0 , 故对角阵 $ \boldsymbol{D}=\operatorname{diag}\left(a_{i i}\right) $ 为非奇异矩阵.构造矩阵 297 | $$ 298 | \boldsymbol{I}-\boldsymbol{D}^{-1} \boldsymbol{A}=\left(\begin{array}{cccc} 299 | 0 & -\frac{a_{12}}{a_{11}} & \cdots & -\frac{a_{1 n}}{a_{11}} \\ 300 | -\frac{a_{21}}{a_{22}} & 0 & \cdots & -\frac{a_{2 n}}{a_{22}} \\ 301 | \vdots & \vdots & & \vdots \\ 302 | -\frac{a_{n 1}}{a_{n n}} & -\frac{a_{n 2}}{a_{n n}} & \cdots & 0 303 | \end{array}\right) 304 | $$ 305 | 由严格对角占优条件知 306 | $$ 307 | \left\|\boldsymbol{I}-\boldsymbol{D}^{-1} \boldsymbol{A}\right\|_{\infty}=\max _{1 \leqslant i \leqslant n} \sum_{\substack{j=1 \\ j \neq i}} \frac{\left|a_{i j}\right|}{\left|a_{i i}\right|}=\max _{1 \leqslant i \leqslant n} \frac{\sum_{\substack{j=1 \\ j \neq i}}^{n}\left|a_{i j}\right|}{\left|a_{i i}\right|}<1 308 | $$ 309 | 由前面引理知 $ \boldsymbol{D}^{-1} \boldsymbol{A} $ 非奇异, 从而 $ \boldsymbol{A} $ 非奇异. 310 | 311 | \colorbox{yellow}{反证法} 设 $ \operatorname{det} A=0 $, 则齐次线性方程组 $ A x=0 $ 一定有非零解, 记为 $ \boldsymbol{x}= $ $ \left(x_{1}, x_{2}, \cdots, x_{n}\right)^{\mathrm{T}} $. 因为 $ \boldsymbol{x} \neq \mathbf{0} $, 所以存在 $ \boldsymbol{x} $ 的分量 $ x_{k} $, 使得 $ \left|x_{k}\right|=\max\limits _{1 \leqslant i \leqslant n}\left|x_{i}\right| \neq 0 $. 312 | 将齐次线性方程组 $ A x=0 $ 中第 $ k $ 个方程 313 | $$ 314 | a_{k 1} x_{1}+\cdots+a_{k k} x_{k}+\cdots+a_{k n} x_{n}=0 315 | $$ 316 | 的非对角元素移至等式右端, 得 317 | $$ 318 | a_{k k} x_{k}=-a_{k 1} x_{1}-\cdots-a_{k, k-1} x_{k-1}-a_{k, k+1} x_{k+1}-\cdots-a_{k n} x_{n}, 319 | $$ 320 | 于是 321 | $$ 322 | \left|a_{k k}\right|\left|x_{k}\right|=\left|a_{k k} x_{k}\right| \leqslant \sum_{\substack{j=1 \\ j \neq k}}^{n}\left|-a_{k j} x_{j}\right|=\sum_{\substack{j=1 \\ j \neq k}}^{n}\left|a_{k j}\right|\left|x_{j}\right| \leqslant\left|x_{k}\right| \sum_{\substack{j=1 \\ j \neq k}}^{n}\left|a_{k j}\right| \text {, } 323 | $$ 324 | 即 $ \left|a_{k k}\right| \leqslant \sum_{\substack{j=1 \\ j \neq k}}^{n}\left|a_{k j}\right| $, 这与 $ \boldsymbol{A} $ 是严格对角占优矩阵的假设矛盾, 故 $ \operatorname{det} \boldsymbol{A} \neq 0 $,证毕! 325 | 326 | 327 | 328 | \subsubsection{松弛法收敛的必要条件} 329 | 解线性方程组 $ A x=b $ 的松弛法收敛的必要条件是 $ 0<\omega<2 $. 330 | 331 | 证: 当松弛法收玫则有 $ \rho\left(\boldsymbol{L}_{\omega}\right)<1 $, 设 $ \boldsymbol{L}_{\omega} $ 的特征值为 $ \lambda_{1}, \lambda_{2}, \cdots, \lambda_{n} $, 则 332 | $$ 333 | \begin{array}{c} 334 | \left|\operatorname{det}\left(\boldsymbol{L}_{\omega}\right)\right|=\left|\lambda_{1} \lambda_{2} \cdots \lambda_{n}\right| \leqslant\left[\rho\left(\boldsymbol{L}_{\omega}\right)\right]^{n} \\ 335 | \left|\operatorname{det}\left(\boldsymbol{L}_{\omega}\right)\right|^{\frac{1}{n}} \leqslant \rho\left(\boldsymbol{L}_{\omega}\right)<1 336 | \end{array} 337 | $$ 338 | 另一方面 339 | $$ 340 | \begin{array}{c} 341 | \left.\operatorname{det}\left(\boldsymbol{L}_{\omega}\right)=\operatorname{det}\left[(\boldsymbol{D}-\omega \boldsymbol{L})^{-1}\right] \operatorname{det}[(1-\omega) \boldsymbol{D}+\omega \boldsymbol{U})\right]=(1-\omega)^{n} \\ 342 | \left|\operatorname{det}\left(\boldsymbol{L}_{\omega}\right)\right|^{\frac{1}{n}}=|1-\omega|<1 \\ 343 | 0<\omega<2 344 | \end{array} 345 | $$ 346 | 347 | 348 | 349 | 350 | -------------------------------------------------------------------------------- /非线性方程求根.tex: -------------------------------------------------------------------------------- 1 | \newpage 2 | 3 | \section{非线性方程求根} 4 | \subsection{知识点概述} 5 | 6 | \textcolor{blue}{1. 根的定义} 7 | 8 | 若实数 $ x^{*} $ 满足 $ f\left(x^{*}\right)=0 $, 则称 $ x^{*} $ 是方程 $ f(x)=0 $ 的根 (零点); 若 $ f(x) $ 可分解为 $ f(x)=\left(x-x^{*}\right)^{m} g(x) $, 其中, $ m $ 为正整数, 且 $ g\left(x^{*}\right) \neq 0 $, 则称 $ x^{*} $ 为方程 $ f(x)=0 $ 的 $ m $ 重根 (零点), 当 $ m=1 $ 时即为单根. 9 | 10 | 对于充分可微的函数 $ f(x), x^{*} $ 是函数 $ f(x) $ 的 $ m $ 重零点的充分必要条件是 11 | $$ 12 | f\left(x^{*}\right)=f^{\prime}\left(x^{*}\right)=\cdots=f^{(m-1)}\left(x^{*}\right)=0, \quad f^{(m)}\left(x^{*}\right) \neq 0 13 | $$ 14 | 15 | \textcolor{blue}{2. 根的搜索} 16 | 17 | \textbf{跨步法或者逐次搜索法} \; 反复利用零点定理选取合适的步长判断端点是否异号求得非线性方程的有根区间的过程. 18 | 19 | \textbf{二分法} \; 将有根区间 $ [a, b] $, 取中点 $ x_{0}=\frac{(a+b)}{2} $ 将它分成两半, 假设中点 $ x_{0} $不是 $ f(x) $ 的零点, 然后进行根的搜索, 即检查 $ f\left(x_{0}\right) $ 与 $ f(a) $ 是否同号, 如果是同号, 说明所求的根 $ x^{*} $ 在 $ x_{0} $ 的右侧, 这时令 $ a_{1}=x_{0}, b_{1}=b $; 否则 $ x^{*} $ 必在 $ x_{0} $的左侧, 这时令 $ a_{1}=a, b_{1}=x_{0} $ 不管出现哪种情况, 新的有根区间 $ \left[a_{1}, b_{1}\right] $ 的长度仅为 $ [a, b] $ 长度的一半. 对压缩了的有根区间 $ \left[a_{1}, b_{1}\right] $ 继续上述过程, 即用中点 $ x_{1}=\frac{a_{1}+b_{1}}{2} $ 将区间 $ \left[a_{1}, b_{1}\right] $ 再分为两半, 然后通过根的搜索判定所求的根在 $ x_{1} $的哪一侧, 从而又确定一个新的有根区间 $ \left[a_{2}, b_{2}\right] $, 其长度是 $ \left[a_{1}, b_{1}\right] $ 长度的一半, 如此反复二分下去, 即可得出一系列有根区 20 | $$ 21 | [a, b] \supset\left[a_{1}, b_{1}\right] \supset\left[a_{2}, b_{2}\right] \supset \cdots \supset\left[a_{k}, b_{k}\right] \supset \cdots 22 | $$ 23 | 其中, 每个区间都是前一个区间的一半, 因此当 $ k \rightarrow \infty $ 时, $ \left[a_{k}, b_{k}\right] $ 的长度 24 | $$ 25 | b_{k}-a_{k}=\frac{b-a}{2^{k}} \rightarrow 0 26 | $$ 27 | 就是说, 如果二分过程无限地继续下去, 这些区间最终必收缩于一点 $ x^{*} $, 该点显然就是所求的根, 且每次二分后, 设取有根区间 $ \left[a_{k}, b_{k}\right] $ 的中点 28 | $$ 29 | x_{k}=\frac{a_{k}+b_{k}}{2} 30 | $$ 31 | 作为根的近似值, 则在二分过程中可以获得一个近似根的序列 $ x_{0}, x_{1}, x_{2}, \cdots $, $ x_{k}, \cdots $, 该序列必以根 $ x^{*} $ 为极限. 由于 32 | $$ 33 | \left|x^{*}-x_{k}\right| \leqslant \frac{b_{k}-a_{k}}{2}=\frac{b-a}{2^{k+1}} 34 | $$ 35 | 只要二分足够多次 (即 $ k $ 充分大), 便有 $ \left|x^{*}-x_{k}\right|<\varepsilon $, 这里 $ \varepsilon $ 为预定的精度, $ x_{k} $为根 $ x^{*} $ 的近似. 36 | 37 | 38 | \textcolor{blue}{3. 不动点迭代} 39 | 40 | 选择一个初始近似值 $ x_{0} $, 通过 41 | $$ 42 | x_{k+1}=\varphi\left(x_{k}\right), \quad k=0,1,2, \cdots 43 | $$ 44 | 产生数列 $ \left\{x_{k}\right\} $, 如果序列有极限且 $ \varphi(x) $ 是连续的, 则 45 | $$ 46 | x^{*}=\lim _{k \rightarrow \infty} x_{k}=\lim _{k \rightarrow \infty} \varphi\left(x_{k-1}\right)=\varphi\left(\lim _{k \rightarrow \infty} x_{k-1}\right)=\varphi\left(x^{*}\right) 47 | $$ 48 | 这样得到了方程 $ x=\varphi(x) $ 的解, 这个方法称为不动点迭代法, $ \varphi(x) $ 称为迭代函数. 49 | 50 | \textcolor{blue}{4. 压缩映像原理} 51 | 52 | (不动点定理或压缩映像原理) 设 $ \varphi(x) \in C[a, b] $, 且对任意 $ x \in[a, b] $, 有 $ a \leqslant $ $ \varphi(x) \leqslant b $, 又假设 $ \varphi^{\prime}(x) $ 在 $ (a, b) $ 内存在, 且存在正常数 $ L<1 $, 使得 $ \left|\varphi^{\prime}(x)\right| \leqslant L $,则有以下等价结论: 53 | 54 | (1) 方程 $ x=\varphi(x) $ 在 $ [a, b] $ 内有唯一的根 $ x^{*} $; 55 | 56 | (2) 对任何初始值 $ x_{0} $, 由 $ x_{k+1}=\varphi\left(x_{k}\right), k=0,1,2, \cdots $, 定义的序列 $ \left\{x_{k}\right\} $ 收敛于 $ [a, b] $ 内的唯一不动点 $ x^{*} ; $ 57 | 58 | (3) $\displaystyle \left|x^{*}-x_{k}\right| \leqslant \frac{L}{1-L}\left|x_{k}-x_{k-1}\right| $ 59 | 60 | (4) $\displaystyle \left|x^{*}-x_{k}\right| \leqslant \frac{L^{k}}{1-L}\left|x_{1}-x_{0}\right| $. 61 | 62 | \textcolor{blue}{5. 迭代的收敛阶} 63 | 64 | 迭代过程 $ x_{k+1}=\varphi\left(x_{k}\right) $ 收敛于方程 $ x=\varphi(x) $ 的根 $ x^{*} $, 第 $ k $ 步迭代的误差记为 $ \varepsilon_{k}=x^{*}-x_{k} $, 若存在实数 $ p \geqslant 1 $, 使得 65 | $$ 66 | \lim _{k \rightarrow \infty} \frac{\left|\varepsilon_{k+1}\right|}{\left|\varepsilon_{k}\right|^{p}}=C \neq 0 67 | $$ 68 | 则称迭代函数 $ \varphi(x) $ 关于 $ x^{*} $ 是 $ p $ 阶收敛的, $ C $ 称为渐近误差常数. 69 | 70 | \textbf{注 }\; (1) $ C \neq 0 $ 是指对一般的函数来说的, 它保证了 $ p $ 的唯一性, 对于特殊的函数, $ C $ 可能为 0 , 此时对这个函数迭代收敛得更快. (2) 一般说来, $ p $ 越大, 收敛就越快, 习惯上, $ p=1 $ 称为线性收敛, $ p>1 $ 称为超线性收敛, $ p=2 $ 称为平方收敛. 71 | 72 | \textbf{判断定理} \; 迭代函数 $ \varphi(x) $ 在方程 $ x=\varphi(x) $ 的根 $ x^{*} $ 的邻域内有充分多阶连续导数, 则迭代法关于 $ x^{*} $ 是 $ p $ 阶收敛的充分必要条件是 73 | $$ 74 | \varphi^{\prime}\left(x^{*}\right)=0, \quad \varphi^{\prime \prime}\left(x^{*}\right)=0, \cdots, \varphi^{(p-1)}\left(x^{*}\right)=0, \quad \varphi^{(p)}\left(x^{*}\right) \neq 0 75 | $$ 76 | 77 | \textcolor{blue}{6. Newton 迭代} 78 | 79 | Newton 迭代格式为 80 | $$ 81 | x_{k+1}=x_{k}-\frac{f\left(x_{k}\right)}{f^{\prime}\left(x_{k}\right)}, \quad k=0,1,2, \cdots 82 | $$ 83 | 由收敛阶判断定理 Newton 迭代格式至少是平方收敛的, 若继续往下计算得 84 | $$ 85 | \varphi^{\prime \prime}\left(x^{*}\right)=\frac{f^{\prime \prime}\left(x^{*}\right)}{f^{\prime}\left(x^{*}\right)} 86 | $$ 87 | 不能确定是否 $ \varphi^{\prime \prime}\left(x^{*}\right)=0 $, 因此 $\displaystyle \lim _{k \rightarrow \infty} \frac{x_{k+1}-x^{*}}{\left(x_{k}-x^{*}\right)^{2}}=\frac{f^{\prime \prime}\left(x^{*}\right)}{2 f^{\prime}\left(x^{*}\right)} $. 88 | 89 | \textcolor{blue}{7. Newton 迭代的修正} 90 | 91 | (1) 简化 Newton 法 92 | 93 | 为了避免每步计算 $ f^{\prime}\left(x_{k}\right) $, 将 Newton 迭代修正为如下简化的 Newton 迭代 94 | $$ 95 | x_{k+1}=x_{k}-\frac{f\left(x_{k}\right)}{f^{\prime}\left(x_{0}\right)}, \quad k=0,1,2, \cdots 96 | $$ 97 | 显然其收敛速度是无法保证的. 98 | 99 | (2) 弦截法 100 | 101 | 在 Newton 迭代公式中, 用差商 $ \frac{f\left(x_{k}\right)-f\left(x_{k-1}\right)}{x_{k}-x_{k-1}} $ 近似代替导数 $ f^{\prime}\left(x_{k}\right) $, 得到迭代公式为 102 | $$ 103 | x_{k+1}=x_{k}-\frac{f\left(x_{k}\right)}{f\left(x_{k}\right)-f\left(x_{k-1}\right)}\left(x_{k}-x_{k-1}\right), \quad k=0,1,2, \ldots 104 | $$ 105 | 称为弦截法或者割线法. 106 | 107 | (3) 抛物线法 108 | 109 | 考虑用 $ f(x) $ 的二次插值多项式的零点来近似 $ f(x) $ 的零点, 得到抛物线法, 设已知方程的根的三个近似值 $ x_{k-2}, x_{k-1}, x_{k} $, 以这三点为插值节点的 $ f(x) $ 的二次插值多项式为 110 | $$ 111 | N_{2}(x)=f\left(x_{k}\right)+f\left[x_{k-1}, x_{k}\right]\left(x-x_{k}\right)+f\left[x_{k-2}, x_{k-1}, x_{k}\right]\left(x-x_{k}\right)\left(x-x_{k-1}\right) 112 | $$ 113 | 该二次多项式的零点为 114 | $$ 115 | x=x_{k}-\frac{2 f\left(x_{k}\right)}{\omega \pm \sqrt{\omega^{2}-4 f\left(x_{k}\right) f\left[x_{k}, x_{k-1}, x_{k-2}\right]}} 116 | $$ 117 | 其中, $ \omega=f\left[x_{k}, x_{k-1}\right]+f\left[x_{k}, x_{k-1}, x_{k-2}\right]\left(x_{k}-x_{k-1}\right) $. 118 | 因此, 构造的迭代格式为 119 | $$ 120 | x_{k+1}=x_{k}-\frac{2 f\left(x_{k}\right)}{\omega \pm \sqrt{\omega^{2}-4 f\left(x_{k}\right) f\left[x_{k}, x_{k-1}, x_{k-2}\right]}}, \quad k=0,1,2, \cdots 121 | $$ 122 | 称为抛物线法, 也称为 Muller 方法或二次插值法. 123 | 124 | (4) Newton 下山法 125 | 126 | Newton 法收敛性依赖初值 $ x_{0} $ 的选取, 如果 $ x_{0} $ 偏离所求根 $ x^{*} $ 较远, 则 Newton 法可能发散, 针对这种情形, 为了防止迭代发散, 对迭代过程附加一项要求, 即具有单调性 127 | $$ 128 | \left|f\left(x_{k+1}\right)\right|<\left|f\left(x_{k}\right)\right| 129 | $$ 130 | 满足这项要求的算法称为下山法. 将 Newton 法与下山法结合起来用, 即在下山法保证函数值稳定下降的前提下, 用 Newton 法加快收敛速度, 为此, 将 Newton 法的计算结果 131 | $$ 132 | \bar{x}_{k+1}=x_{k}-\frac{f\left(x_{k}\right)}{f^{\prime}\left(x_{k}\right)} 133 | $$ 134 | 与前一步的近似值 $ x_{k} $ 的适当加权平均作为新的改进值 135 | $$ 136 | x_{k+1}=\lambda \bar{x}_{k+1}+(1-\lambda) x_{k} 137 | $$ 138 | 其中 $ \lambda(0<\lambda \leqslant 1) $ 称为下山因子, 则 139 | $$ 140 | x_{k+1}=x_{k}-\lambda \frac{f\left(x_{k}\right)}{f^{\prime}\left(x_{k}\right)}, \quad k=0,1,2, \cdots 141 | $$ 142 | 称为 Newton 下山法. 143 | 144 | 选择下山因子时从 $ \lambda=1 $ 开始, 逐次将 $ \lambda $ 减半进行试算, 直到能使下降条件成立为止,一般情况可得到 $ \lim\limits _{k \rightarrow \infty} f\left(x_{k}\right)=0 $, 从而使 $ \left\{x_{k}\right\} $ 收敛. 145 | 146 | \textcolor{blue}{8. 重根迭代} 147 | 148 | 若 $ x^{*} $ 为方程 $ f(x)=0 $ 的 $ m(m \geqslant 2) $ 重根, 则 $ f(x)=\left(x-x^{*}\right)^{m} g(x) $, 要保证至少是平方收敛的, 则可以采用以下两种迭代格式: 149 | 150 | (1) $\displaystyle x_{k+1}=x_{k}-m \frac{f\left(x_{k}\right)}{f^{\prime}\left(x_{k}\right)}, k=0,1,2, \cdots $ 151 | 152 | (2) 令 $ u(x)=\dfrac{f(x)}{f^{\prime}(x)} $, 则 $\displaystyle x_{k+1}=x_{k}-\frac{u\left(x_{k}\right)}{u^{\prime}\left(x_{k}\right)}, k=0,1,2, \cdots $. 153 | 154 | \textcolor{blue}{9. 迭代的加速方法} 155 | 156 | (1) 加权法加速 157 | 158 | 由非线性方程的迭代格式 $ x_{k+1}=\varphi\left(x_{k}\right), k=0,1,2, \cdots $, 由微分中值定理 159 | $$ 160 | x_{k+1}-x^{*}=\varphi\left(x_{k}\right)-\varphi\left(x^{*}\right)=\varphi^{\prime}(\xi)\left(x_{k}-x^{*}\right) 161 | $$ 162 | 假定 $ \varphi^{\prime}(x) $ 改变不大, 近似地取某个近似值 $ L $, 则有 $ x_{k+1}-x^{*} \approx L\left(x_{k}-x^{*}\right) $, 解得 163 | $$ 164 | x^{*} \approx \frac{1}{1-L} x_{k+1}-\frac{L}{1-L} x_{k} 165 | $$ 166 | 为了迭代计算加速, 直接把 $ x^{*} $ 当作新的后一项作 $ x_{k+1} $, 因此得到加权法加速的迭代格式 167 | $$ 168 | x_{k+1} \approx \frac{1}{1-L} \varphi\left(x_{k}\right)-\frac{L}{1-L} x_{k}, \quad k=0,1,2, \cdots 169 | $$ 170 | 这种格式实现了一般迭代的加速, 但是实际操作中这个 $ L $ 是难以确定的, 由局部收敛性可以在根附近找一个近似值代替. 171 | 172 | (2) Aitken 加速 173 | 174 | 为了消除加权法中的 $ L $ 影响, 再进行选代一次 $ x_{k}=\varphi\left(x_{k-1}\right) $, 同样得到 175 | $$ 176 | x_{k}-x^{*} \approx L\left(x_{k-1}-x^{*}\right) 177 | $$ 178 | 所以 $ \dfrac{x_{k+1}-x^{*}}{x_{k}-x^{*}} \approx \dfrac{x_{k}-x^{*}}{x_{k-1}-x^{*}} $, 解得 179 | $$ 180 | x^{*}=x_{k}-\frac{\left(x_{k+1}-x_{k}\right)^{2}}{x_{k}-2 x_{k+1}+x_{k+2}} 181 | $$ 182 | 同样为了迭代计算加速, 把 $ x^{*} $ 当作新的后一项作 $ x_{k+1} $ 得 183 | $$ 184 | \bar{x}_{k+1}=x_{k}-\frac{\left(x_{k+1}-x_{k}\right)^{2}}{x_{k}-2 x_{k+1}+x_{k+2}}=x_{k}-\frac{\left(\Delta x_{k}\right)^{2}}{\Delta^{2} x_{k}}, \quad k=0,1,2, \cdots 185 | $$ 186 | 称为艾特肯 (Aitken) 加速方法, 可以证明 $\displaystyle \lim _{k \rightarrow \infty} \frac{\bar{x}_{k+1}-x^{*}}{x_{k}-x^{*}}=0 $, 它表明序列 $ \left\{\bar{x}_{k}\right\} $的收敛速度比 $ \left\{x_{k}\right\} $ 的快. 187 | 188 | \textcolor{blue}{10. 斯特芬森 (Steffensen) 迭代法} 189 | 190 | Aitken 方法不管原序列 $ \left\{x_{k}\right\} $ 是怎样产生的, 对 $ \left\{x_{k}\right\} $ 进行加速运算, 得到序列 $ \left\{\bar{x}_{k}\right\} $, 如果把 Aitken 加速技巧与不动点迭代结合, 则可得到如下的迭代法: 191 | $$ 192 | \left\{\begin{array}{l} 193 | y_{k}=\varphi\left(x_{k}\right), \quad z_{k}=\varphi\left(y_{k}\right), \\ 194 | x_{k+1}=x_{k}-\dfrac{\left(y_{k}-x_{k}\right)^{2}}{z_{k}-2 y_{k}+x_{k}}, \quad k=0,1,2, \cdots 195 | \end{array}\right. 196 | $$ 197 | 称为 Steffensen 迭代法. 198 | 199 | \subsection{补充} 200 | \subsubsection{全局收敛定理} 201 | \begin{tcolorbox}[enhanced,colback=2,colframe=1,breakable,coltitle=black,title=全局收敛定理] 202 | 203 | 设函数 $ \varphi(x) $ 在区间 $ [a, b] $ 上具有连续的一阶导数, 且满足 204 | 205 | (1) 对所有的 $ x \in[a, b] $ 有 $ \varphi(x) \in[a, b] $; 206 | 207 | (2) 存在 $ 00) $, 使 328 | $$ 329 | \lim _{k \rightarrow+\infty} \frac{\left|e_{k+1}\right|}{\left|e_{k}\right|^{p}}=c 330 | $$ 331 | 则称序列 $ \left\{x_{k}\right\} $ 是 $ p $ 阶收敛的, $ c $ 称渐近误差常数. 332 | 333 | 从定义中的表达式可以看出, $ \left|e_{k+1}\right| $ 和 $ \left|e_{k}\right|^{p} $ 为同阶无穷小量, 即以 $ \left|e_{k}\right| $ 为基本无穷小量时, $ \left|e_{k+1}\right| $ 为 $ p $ 阶无穷小量, 阶数 $ p $ 越高, 收敛速度越快, 收敛速度是误差的收缩率, 阶数越高, 误差下降得越快.特别地, $ p=1.01 $ 时称超线性收敛. 334 | 335 | 下面讨论 $ p $ 为大于 1 的整数时, 迭代函数的导数和收敛速度的关系. 336 | \begin{tcolorbox}[enhanced,colback=2,colframe=1,breakable,coltitle=black,title=定理] 337 | 对迭代过程 $ x_{k+1}=\varphi\left(x_{k}\right) $, 若 $ \varphi^{(p)}(x) $ 在所求根 $ x^{*} $ 的邻域连续, 且 338 | $$ 339 | \varphi^{\prime}\left(x^{*}\right)=\varphi^{\prime \prime}\left(x^{*}\right)=\cdots=\varphi^{(p-1)}\left(x^{*}\right)=0, \quad \varphi^{(p)}\left(x^{*}\right) \neq 0 340 | $$ 341 | 则迭代过程在 $ x^{*} $ 邻域是 $ p $ 阶收敛的. 342 | \end{tcolorbox} 343 | 344 | 证: 由于 $ \varphi^{\prime}\left(x^{*}\right)=0 $, 即在 $ x^{*} $ 邻域 $ \left|\varphi^{\prime}\left(x^{*}\right)\right|<1 $, 所以 $ x_{k+1}=\varphi\left(x_{k}\right) $ 有局部收敛性. 345 | 346 | 将 $ \varphi\left(x_{k}\right) $ 在 $ x^{*} $ 处泰勒展开到 $ p-1 $ 阶 347 | $$ 348 | \varphi\left(x_{k}\right)=\varphi\left(x^{*}\right)+\varphi^{\prime}\left(x^{*}\right)\left(x_{k}-x^{*}\right)+\frac{1}{2} \varphi^{\prime \prime}\left(x^{*}\right)\left(x_{k}-x\right)^{2}+ \cdots+\frac{1}{p!} \varphi^{(p)}(\xi)\left(x_{k}-x^{*}\right)^{p}, \quad \xi \in x^{*} \text { 的邻域 } 349 | $$ 350 | 将已知 $ \varphi^{\prime}\left(x^{*}\right)=\varphi^{\prime \prime}\left(x^{*}\right)=\cdots=\varphi^{(p-1)}\left(x^{*}\right)=0, \varphi^{(p)}\left(x^{*}\right) \neq 0 $ 代入, 并注意 $ \varphi\left(x_{k}\right)=x_{k+1} $, $ \varphi\left(x^{*}\right)=x^{*} $, 则有 351 | $$ 352 | \begin{aligned} 353 | x_{k+1}-x^{*}&=\frac{\varphi^{(p)}(\xi)}{p!}\left(x_{k}-x^{*}\right)^{p} \\ 354 | \frac{e_{k+1}^{p}}{e_{k}^{p}}&=\frac{\varphi^{(p)}(\xi)}{p!} \\ 355 | \lim _{k \rightarrow+\infty} \frac{e_{k+1}}{e_{k}^{p}}&=\frac{\varphi^{(p)}\left(x^{*}\right)}{p!} \neq 0 \\ 356 | \lim _{k \rightarrow+\infty} \frac{\left|e_{k+1}\right|}{\left|e_{k}\right|^{p}}&=\frac{\left|\varphi^{(p)}\left(x^{*}\right)\right|}{p!} \neq 0 357 | \end{aligned} 358 | $$ 359 | 从上述定理可以看出, 迭代过程的收敛速度依赖于迭代函数 $ \varphi(x) $ 的选取.当 $ \varphi^{\prime}\left(x^{*}\right) \neq 0 $时, 则该迭代过程最多是线性收敛, 当 $ \varphi^{\prime}\left(x^{*}\right)=0 $ 时, 迭代过程至少是平方收敛. 360 | 361 | 362 | \subsubsection{牛顿迭代公式的建立} 363 | 牛顿迭代法是通过非线性方程线性化得到迭代序列的一种方法. 364 | 对于非线性方程 $ f(x)=0 $, 若已知根 $ x^{*} $ 的一个近似值 $ x_{k} $, 将 $ f(x) $ 在 $ x_{k} $ 处展成一阶泰勒公式 365 | $$ 366 | f(x)=f\left(x_{k}\right)+f^{\prime}\left(x_{k}\right)\left(x-x_{k}\right)+\frac{f^{\prime \prime}(\xi)}{2!}\left(x-x_{k}\right)^{2} 367 | $$ 368 | 忽略高次项，有 369 | $$ 370 | f(x) \approx f\left(x_{k}\right)+f^{\prime}\left(x_{k}\right)\left(x-x_{k}\right) 371 | $$ 372 | 这是直线方程, 用这个直线方程来近似非线性方程 $ f(x) $ .将非线性方程 $ f(x)=0 $ 的根 $ x $ *代入 $ f\left(x^{*}\right)=0 $, 即 373 | $$ 374 | f\left(x_{k}\right)+f^{\prime}\left(x_{k}\right)\left(x^{*}-x_{k}\right) \approx 0 375 | $$ 376 | 解出 377 | $$ 378 | x^{*} \approx x_{k}-\frac{f\left(x_{k}\right)}{f^{\prime}\left(x_{k}\right)} 379 | $$ 380 | 将右端取为 $ x_{k+1} $, 则 $ x_{k+1} $ 是比 $ x_{k} $ 更接近于 $ x^{*} $ 的近似值, 即 381 | $$ 382 | x_{k+1}=x_{k}-\frac{f\left(x_{k}\right)}{f^{\prime}\left(x_{k}\right)} 383 | $$ 384 | 这就是\textbf{牛顿迭代公式}，相应的迭代函数是 385 | $$ 386 | \varphi(x)=x-\frac{f(x)}{f^{\prime}(x)} 387 | $$ 388 | \subsubsection{牛顿迭代法的收敛情况} 389 | \begin{tcolorbox}[enhanced,colback=2,colframe=1,breakable,coltitle=black,title=定理] 390 | 设函数 $ f(x) $ 满足 $ f\left(x^{*}\right)=0, f^{\prime}\left(x^{*}\right) \neq 0 $, 且 $ f^{\prime \prime}(x) $ 在 $ x^{*} $ 邻域连续, 则牛顿迭代法在 $ x^{*} $ 局部收敛, 且至少二阶收敛.并有 391 | $$ 392 | \lim _{k \rightarrow+\infty} \frac{e_{k+1}}{e_{k}^{2}}=\frac{f^{\prime \prime}\left(x^{*}\right)}{2 f^{\prime}\left(x^{*}\right)} 393 | $$ 394 | \end{tcolorbox} 395 | 证: 因为 $ f\left(x^{*}\right)=0 $, 而 $ f^{\prime}\left(x^{*}\right) \neq 0 $, 在 $ x^{*} $ 邻域, 则有 396 | $$ 397 | \begin{aligned} 398 | \varphi^{\prime}\left(x^{*}\right)&=\frac{f\left(x^{*}\right) f^{\prime \prime}\left(x^{*}\right)}{\left[f^{\prime}\left(x^{*}\right)\right]^{2}}=0 \\ 399 | \varphi^{\prime \prime}(x)&=\frac{-2 f(x)\left[f^{\prime \prime}\left(x^{*}\right)\right]^{2}+\left[f^{\prime}(x)\right]^{2} f^{\prime \prime}(x)+f(x) f^{\prime}(x) f^{\prime \prime \prime}(x)}{\left[f^{\prime}(x)\right]^{3}} \\ 400 | \varphi^{\prime \prime}\left(x^{*}\right)&=\frac{f^{\prime \prime}\left(x^{*}\right)}{f^{\prime}\left(x^{*}\right)} 401 | \end{aligned} 402 | $$ 403 | 又因为 $ f^{\prime \prime}(x) $ 在 $ x^{*} $ 邻域连续, 则牛顿迭代法局部收敛, 且至少二阶收敛.当 $ f^{\prime \prime}\left(x^{*}\right) \neq 0 $时, $ \varphi^{\prime \prime}\left(x^{*}\right) \neq 0 $, 牛顿迭代法在 $ x^{*} $ 邻域为二阶收敛. 404 | $$0=f\left(x^{*}\right)=f\left(x_{k}\right)+f^{\prime}\left(x_{k}\right)\left(x^{*}-x_{k}\right)+\frac{f^{\prime \prime}(\xi)}{2}\left(x^{*}-x_{k}\right)^{2}, \xi \in\left[x^{*}, x_{k}\right] $$ 405 | $$ 406 | \begin{aligned} 407 | x_{k}-x^{*}&=\frac{f\left(x_{k}\right)}{f^{\prime}\left(x_{k}\right)}+\frac{f^{\prime \prime}(\xi)}{2 f^{\prime}\left(x_{k}\right)}\left(x_{k}-x^{*}\right)^{2} \\ 408 | x_{k}-\frac{f\left(x_{k}\right)}{f^{\prime}\left(x_{k}\right)}-x^{*}&=\frac{f^{\prime \prime}(\xi)}{2 f^{\prime}\left(x_{k}\right)}\left(x_{k}-x^{*}\right)^{2} \\ 409 | x_{k+1}-x^{*}&=\frac{f^{\prime \prime}(\xi)}{2 f^{\prime}\left(x_{k}\right)}\left(x_{k}-x^{*}\right)^{2} \\ 410 | \lim _{k \rightarrow+\infty} \frac{x_{k+1}-x^{*}}{\left(x_{k}-x^{*}\right)^{2}}&=\frac{f^{\prime \prime}\left(x^{*}\right)}{2 f^{\prime}\left(x^{*}\right)} \\ 411 | \lim _{k \rightarrow+\infty} \frac{e_{k+1}}{e_{k}^{2}}&=\frac{f^{\prime \prime}\left(x^{*}\right)}{2 f^{\prime}\left(x^{*}\right)} 412 | \end{aligned} 413 | $$ 414 | 或者直接将$\displaystyle\varphi^{\prime \prime}\left(x^{*}\right)=\frac{f^{\prime \prime}\left(x^{*}\right)}{f^{\prime}\left(x^{*}\right)}$ 代入$\displaystyle \lim _{k \rightarrow+\infty} \frac{e_{k+1}}{e_{k}^{p}}=\frac{\varphi^{(p)}\left(x^{*}\right)}{p!} \neq 0 $, 也可得出上式. 415 | 416 | 定理说明, 如果 $ f(x)=0 $ 的单根附近存在着连续的二阶导数, 当初值在单根附近时,牛顿迭代法具有平方收敛速度.因此, 牛顿迭代法的突出特点是收敛性速度快, 但缺点是每次要计算导数 $ f^{\prime}\left(x_{k}\right) $, 且计算复杂, 计算量增大. 417 | 418 | \textbf{\textcolor{red}{重根时的修正:}}牛顿迭代法具有平方收敛速度是指单根时的情况，当不是单根时，就没有平方收敛速度.为了得到平方收敛速度, 可进行如下的修正. 419 | 420 | 当重根数已知时, 设 $ x^{*} $ 是 $ f(x)=0 $ 的 $ m $ 重根 $ (m \geqslant 2) $, 即满足 421 | $$ 422 | \begin{array}{c} 423 | f\left(x^{*}\right)=f^{\prime}\left(x^{*}\right)=\cdots=f^{(m-1)}\left(x^{*}\right)=0, \\ 424 | f^{(m)}\left(x^{*}\right) \neq 0 425 | \end{array} 426 | $$ 427 | 则牛顿迭代法迭代过程 428 | $$\boxed{ 429 | x_{k+1}=x_{k}-\frac{f\left(x_{k}\right)}{f^{\prime}\left(x_{k}\right)}} 430 | $$ 431 | \textbf{是线性收敛, 不是平方收敛}, 下面予以证明. 432 | 433 | 证 :迭代函数 434 | $$ 435 | \varphi(x)=x-\frac{f(x)}{f^{\prime}(x)} 436 | $$ 437 | 令 $ x=x^{*}+h $, 将 $ f(x), f^{\prime}(x) $ 在 $ x^{*} $ 处泰勒展开, 并注意到 $ x^{*}=\varphi\left(x^{*}\right) $, 则 438 | $$ 439 | \begin{aligned} 440 | \varphi\left(x^{*}+h\right) & =\left(x^{*}+h\right)-\frac{f\left(x^{*}+h\right)}{f^{\prime}\left(x^{*}+h\right)} \\ 441 | & =\left(x^{*}+h\right)-\frac{f\left(x^{*}\right)+f^{\prime}\left(x^{*}\right) h+\cdots+\frac{f^{(m)}\left(x^{*}\right)}{m!} h^{m}+O\left(h^{m+1}\right)}{f^{\prime}\left(x^{*}\right)+f^{\prime \prime}\left(x^{*}\right) h+\cdots+\frac{f^{(m)}\left(x^{*}\right)}{(m-1)!} h^{m-1}+O\left(h^{m}\right)} 442 | \end{aligned} 443 | $$ 444 | 将已知 $ m $ 重根的条件代入 445 | $$ 446 | \begin{aligned} 447 | \varphi\left(x^{*}+h\right) & =\left(x^{*}+h\right) \frac{\frac{f^{(m)}\left(x^{*}\right)}{m!} h^{m}+O\left(h^{m+1}\right)}{\frac{f^{(m)}\left(x^{*}\right)}{(m-1)!} h^{m-1}+O\left(h^{m}\right)} \\ 448 | & =x^{*}+h-\frac{1}{m} h+O\left(h^{2}\right) \\ 449 | & =x^{*}+\left(1-\frac{1}{m}\right) h+O\left(h^{2}\right) \\ 450 | \varphi^{\prime}\left(x^{*}\right) & =\lim _{h \rightarrow 0} \frac{\varphi\left(x^{*}+h\right)-\varphi\left(x^{*}\right)}{h} \\ 451 | & =\lim _{h \rightarrow 0} \frac{x^{*}+\left(1-\frac{1}{m}\right) h+O\left(h^{2}\right)-x^{*}}{h}=1-\frac{1}{m} 452 | \end{aligned} 453 | $$ 454 | 由于 $ m \geqslant 2, \varphi^{\prime}\left(x^{*}\right) \neq 0 $, 所以牛顿迭代法线性收敛. 455 | 456 | 取迭代函数 $ \varphi(x)=x-m \frac{f(x)}{f^{\prime}(x)} $, 重新计算 $ \varphi^{\prime}\left(x^{*}\right) $, 则仍有 $ \varphi^{\prime}\left(x^{*}\right)=0 $, 这时修正的牛顿迭代法 457 | $$\boxed{ 458 | x_{k+1}=x_{k}-m \frac{f\left(x_{k}\right)}{f^{\prime}\left(x_{k}\right)}} 459 | $$ 460 | 是\textbf{平方收敛}的, 但这种修正方法需要预知重根数 $ m $ 的值. --------------------------------------------------------------------------------