微積分：泰勒級數

這份筆記是關於泰勒級數與泰勒定理的說明。

級數

定義 1：部分和 (Partial Sum)

給定級數\(\sum\limits_{k=0}^\infty a_kx^k\)，記 \[ S_n(x)=\sum_{k=0}^n a_kx^k \] 為此級數的部分和。

定義 2：收斂與發散 (Convergence and Divergence)

給定級數\(\sum\limits_{k=0}^\infty a_kx^k\)，令\(S_n(x)\)為其部分和。若\(\lim\limits_{n\to\infty}S_n\)存在，則稱級數收斂。否則稱級數發散。收斂時，可記 \[ \sum_{k=0}^\infty a_kx^k=f(x) \]

註記 2-1

若令 \[ R_n(x)=\sum_{k=0}^\infty a_kx^k-S_n(x) \] 則級數收斂 iff \(n\to\infty\)時\(R_n(x)\to 0\)。

例 3

令 \[ \frac{1}{1-x}=1+x+x^2+\cdots+x^n+R_n(x) \] 則 \[ \begin{aligned} R_n(x)&=\frac{1}{1-x}-(1+x+x^2+\cdots+x^n)\\ &=\frac{1}{1-x}-\frac{1-x^{n+1}}{1-x}\\ &=\frac{x^{n+1}}{1-x} \end{aligned} \] 當\(|x|<1\)時，有 \[ \frac{x^{n+1}}{1-x}\to 0\mbox{ when }n\to 0 \] 故\(n\to\infty\)時有\(R_n(x)\)，意即 \[ 1+x+x^2+\cdots=\frac{1}{1-x}\mbox{ for }|x|<1 \]

例 4：對數函數

已知 \[ \frac{1}{1-t}=1+t+t^2+\cdots+t^{n-1}+r_n(t) \] 其中\(r_n(t)=\frac{t^n}{1-t}\)。然而 \[ \log x=\int_1^x\frac{dt}{t} \] (這裡的定義1)故考慮\(\int_0^x\frac{dt}{1-t}\)，令\(t'=1-t\)，故由變數變換(這裡的定理1)有 \[ \int_0^x\frac{dt}{1-t}=\frac{1-x}{1}\frac{-dt'}{t'}=-\log(1-x) \] 於是， \[ \begin{aligned} -\log(1-x)&=\int_0^x\frac{dt}{1-t}\\ &=\int_0^x(1+t+t^2+\cdots+t^{n-1}+r_n(t))dt\\ &=x+\frac{x^2}{2}+\frac{x^3}{3}+\cdots+\frac{x^n}{n}+R_n(x) \end{aligned} \] 其中 \[ R_n(x)=\int_0^x r_n(t)dt=\int_0^x\frac{t^n}{1-t}dt \] 考慮\(-1\leq x\leq 0\)，則 \[ \begin{aligned} \lim_{n\to\infty}R_n(x)&=\lim_{n\to\infty}\int_0^x\frac{t^n}{1-t}dt\\ &\leq\lim_{n\to\infty}\int_0^x t^ndt\\ &=\lim_{n\to\infty}\frac{x^{n+1}}{n+1}=0 \end{aligned} \] (因為\(1-t\geq 1\))而\(0\leq x<1\)時， \[ \begin{aligned} \lim_{n\to\infty}R_n(x)&\leq\lim_{n\to\infty}\frac{1}{1-x}\int_0^x t^n dt\\ &=\lim_{n\to\infty}\frac{x^{n+1}}{1-x}\times\frac{1}{n+1}=0 \end{aligned} \] 於是當\(-1\leq x<1\)時，有 \[ \log (1-x)=-x-\frac{x^2}{2}-\frac{x^3}{3}-\cdots \]

註記 4-1

對\(\log (1-x)\)來說，對於任何\(0<h\leq 1\)，\(R_n(x)\)都在\(-1\leq x\leq 1-h\)上收斂至零。
特別的，令\(x=-1\)，有 \[ \log 2=1-\frac{1}{2}+\frac{1}{3}-\frac{1}{4}+\frac{1}{5}-\cdots \] 或用\(-x\)取代\(x\)，則\(-1<x<1\)時，有 \[ \log(1+x)=x-\frac{x^2}{x}+\frac{x^3}{3}-\frac{x^4}{4}+\cdots \] 稍微把式子變形一下(把例4的式子和上式相減除\(2\))，就有 \[ \frac{1}{2}\log\frac{1-x}{1-x}=x+\frac{x^3}{3}+\frac{x^5}{5}+\frac{x^7}{7}+\cdots \]

例 5：反正切函數

已知 \[ \frac{1}{1+t^2}=1-t^2+t^4-t^6+t^8+\cdots+(-1)^{n-1}t^{2n-2}+r_n(t) \] 其中\(t^2<1\)，且 \[ r_n(t)=(-1)^n\times\frac{t^{2n}}{1+t^2} \] 則 \[ \begin{aligned} \arctan x&=\int_0^x\frac{1}{1+t^2}dt\\ &=\int_0^x(1-t^2+t^4-t^6+t^8+\cdots+(-1)^{n-1}t^{2n-2}+r_n(t))dt\\ &=x-\frac{x^3}{3}+\frac{x^5}{5}-\cdots+(-1)^{n-1}\frac{x^{2n-1}}{2n-1}+R_n(x) \end{aligned} \] 其中 \[ R_n(x)=(-1)^n\int_0^x\frac{t^{2n}}{1+t^2}dt \] 考慮\(-1\leq x\leq 1\)，則 \[ \begin{aligned} \lim_{n\to\infty}|R_n(x)|&=\lim_{n\to\infty}\int_0^x\frac{t^{2n}}{1+t^2}\\ &\leq\lim_{n\to\infty}\int_0^x t^{2n}dt\\ &=\lim_{n\to\infty}\frac{x^{2n+1}}{2n+1}=0 \end{aligned} \] 故\(-1\leq x\leq 1\)時，有 \[ \arctan x=x-\frac{x^3}{3}+\frac{x^5}{5}-\frac{x^7}{7}+\cdots \] 特別的，令\(x=1\)，有

定理 5-1：萊布尼茲-格列高里級數 (Leibniz-Gregory Series)

\[ \frac{\pi}{4}=1-\frac{1}{3}+\frac{1}{5}-\frac{1}{7}+\frac{1}{9}-\cdots \]

圖1 Gottfried Wilhelm Leibniz 圖2 James Gregory

泰勒定理

定理 6：泰勒定理 (Taylor Theorem)

給定區間\(I\)上的函數\(f(x)\)，我們可以找到某個\(R_n(x)\)的表達式使得 \[ f(x)=\mbox{Polynomial}+R_n(x) \]

圖3 Brook Taylor

例 6-1：多項式函數

令\(f(x)=a_0+a_1x+a_2x^2+\cdots+a_nx^n\)。給定某個\(a\)，令\(x=a+h\)，則可令\(f(a+h)=c_0+c_1h+c_2h^2+\cdots+c_nh^n\)，則 \[ \frac{d^k}{dh^k}f(a+h)=k!c_k+Q(h)h \] 其中\(Q(h)\)是\(h\)的多項式。\(h=0\)時，有\(f^{(k)}(a)=k!c_k\)，故 \[ c_k=\frac{f^{(k)}(a)}{k!} \]

定義 7：泰勒多項式 (Taylor Polynomial)

隨便給定\(f\)與\(a\)，令 \[ f(a+h)=f(a)+f'(a)h+\frac{f^{(2)}(a)}{2!}h^2+\cdots+\frac{f^{(n)}(a)}{n!}h^n+R_n \] 則我們把\(f(a)+f'(a)h+\frac{f^{(2)}(a)}{2!}h^2+\cdots+\frac{f^{(n)}(a)}{n!}h^n\)稱作\(f\)在\(a\)的\(n\)階泰勒多項式。

定義 7-1：剩餘項 (Remainder Term)

上述的\(R_n\)稱為剩餘項。

定義 7-2：泰勒展開式 (Taylor Exapnsion)

若\(n\to\infty\)時\(R_n(h)\to 0\)，則我們說\(f\)有泰勒展開式，也就是 \[ f(a+h)=\sum_{k=0}^\infty \frac{f^{(k)}(a)}{k!}h^k \]

剩餘項

先考慮\(n=1\)，固定\(b\)，令\(a+h=b\)。則 \[ f(b)=f(a)+(b-a)f'(a)+R(a) \] (這裡\(R(a)\)的定義是\(R(a)=f(b)-f(a)-(b-a)f'(a)\))兩邊對\(a\)微分，有 \[ \begin{aligned} &0=f'(a)-f'(a)+(b-a)f'(a)+R(a)\\ \Rightarrow&R'(a)=-(b-a)f''(a)\mbox{ (☆)} \end{aligned} \] 又由微分均值定理(這裡的定理4)，我們知道存在\(\xi\in[a,b]\)使得 \[ \frac{R(a)-R(b)}{b-a}=-R'(\xi) \] 又由定義\(R(b)=0\)，則 \[ R(a)=-(b-a)R'(\xi)=-hR'(\xi) \] 而由上(☆)式中代\(a=\xi\)有 \[ \begin{aligned} |R'(\xi)|&=|b-\xi||f''(\xi)|\\ &\leq |b-a||f''(\xi)|\;(\xi\in[a,b],\;|b-\xi|\leq |b-a|)\\ &=h|f''(\xi)| \end{aligned} \] 故\(|R(a)|=h|R'(\xi)|\leq h^2|f''(\xi)|\)。

類似的，對於更大的\(n\)，我們令 \[ R_n(a)=f(b)-f(a)-f'(a)h-\cdots-\frac{h^n}{n!}f^{(n)}(a) \] 假設\(f^{(n+1)}\)連續，則上式對\(a\)微分，有 \[ \begin{aligned} &0=\frac{(b-a)^n}{n!}f^{(n+1)}(a)+R'_n(a)\\ \Rightarrow&R'_n(a)=-\frac{(b-a)^n}{n!}f^{(n+1)}(a) \end{aligned} \] 類似\(n=1\)時的狀況，我們一樣有\(R_n(b)=0\)，則 \[ R_n(a)=R_n(a)-R_n(b)=\int_b^a R'_n(t)dt=-\int_a^b R'_n(t)dt \] 於是就有：

定理 8：剩餘項的積分形式 (Integral Form of Remainder Term)

\[ R_n(a)=\int_a^b\frac{(b-t)^n}{n!}f^{(n+1)}(t)dt \] 另一方面，由微分均值定理(這裡的定理4)之存在\(\xi\in[a,b]\)使得 \[ \frac{R_n(a)-R_n(b)}{b-a}=-R'_n(\xi)=\frac{(b-\xi)^n}{n!}f^{(n+1)}(\xi) \] 而\(R_n(b)=0\)，故有：

定理 9：剩餘項的微分形式 (Derivative Form of Remainder Term)

\[ R_n(a)=\frac{(b-a)(b-\xi)^n}{n!}f^{(n+1)}(\xi) \] 而令\(\xi=a+\theta h\), \(0\leq\theta\leq 1\)，就有：

定理 10：剩餘項的柯西形式 (Cauchy Form of Remainder Term)

\[ R_n(a)=\frac{h^{n+1}}{n!}(1-\theta)^nf^{(n+1)}(a+\theta h) \]

而由\(R_n(a)\)的積分表達式及廣義積分均值定理(這裡的定理4)知存在\(\xi\in[a,b]\)使得 \[ \begin{aligned} R_n(a)&=\int_a^b\frac{(b-t)^n}{n!}f^{(n+1)}(t)dt\\ &=\frac{f^{(n+1)}(\xi)}{n!}\int_a^b(b-t)^n dt\\ &=\frac{(b-a)^{n+1}}{(n+1)!}f^{(n+1)}(\xi) \end{aligned} \] 令\(\xi=a+\theta h\), \(0\leq\theta\leq 1\)，於是就有如下剩餘項的最常用形式：

定理 11：剩餘項的拉格朗日形式 (Lagrange Form of Remainder Term)

\[ R_n(a)=\frac{h^{n+1}}{(n+1)!}f^{(n+1)}(a+\theta h) \]

圖3 Joseph-Louis Lagrange

例 12：指數函數

考慮函數\(f(x)=e^x\)。我們希望說明對於所有\(x\)有 \[ e^x=1+\frac{x}{1!}+\frac{x^2}{2!}+\cdots+\frac{x^n}{n!}+\cdots \]

證明：我們希望說明\(n\to\infty\)時，剩餘項\(R_n\to 0\)。我們使用拉格朗日形式，有 \[ R_n(x)=\frac{x^{n+1}}{(n+1)!}e^{\theta x} \] 其中\(x\)是固定的。故\(n\to\infty\)時，\(\frac{x^{n+1}}{(n+1)!}\to 0\)。即\(R_n\to 0\), \(\forall x\)。QED

馬克勞林級數

給定一系列函數\(\phi_0(t)\), \(\phi_1(t)\), \(\phi_2(t)\), \(\cdots\), \(\phi_v(t)\)，其中\(\phi_0(t)\equiv 1\), \(\phi'_x(t)=\phi_{x-1}(t)\)，且\(\phi_x(b)=0, \forall x\in\mathbb{N}\)。於是有 \[ \phi_v(t)=\frac{(t-b)^v}{v!} \] 則 \[ \phi_v(a)=(-1)^v\times\frac{(b-a)^v}{v!} \] 於是隨便來個\(f(x)\)，有 \[ \begin{aligned} f(b)-f(a)&=\int_a^b f'(t)dt\\ &=\int_a^b\phi_0(t)f'(t)dt\\ &=\int_a^b\phi'_1(t)f'(t)dt\\ &=\left.\phi_1f'\right|_a^b-\int_a^b\phi_1(t)f''(t)dt\\ &=(b-a)f'(a)-\int_a^b\phi'_2(t)f''(t)dt\\ &=\cdots\\ &=(b-a)f'(a)+\frac{(b-a)^2}{2!}f''(a)+\cdots+\frac{(b-a)^n}{n!}f^{(n)}(a)+\int_a^b(-1)^n\phi_n(t)f^{(n+1)}(t)dt \end{aligned} \] 最後有 \[ \int_a^b(-1)^n\phi_n(t)f^{(n+1)}(t)dt=R_n \] 而令\(a=x\), \(b=x+h\)，則 \[ f(x+h)=f(x)+hf'(x)+\frac{h^2}{2!}f''(x)+\cdots+\frac{h^n}{n!}f^{(n)}(x)+R_n \] 其中 \[ R_n=\frac{1}{n!}\int_0^h(x+h-t)^n f^{(n+1)}(t)dt \] 若令\(x=0\)並把\(h\)換成\(x\)，就有

定理 13：馬克勞林級數 (MacLaurin's Series)

\[ f(x)=f(0)+\frac{x}{1!}f'(0)+\frac{x^2}{2!}f''(0)+\cdots+\frac{x^n}{n!}f^{(n)}(0)+\frac{1}{n!}\int_0^x(x-t)^nf^{(n+1)}(t)dt \]

圖4 Colin Maclaurin

例 14：二項級數 (Binomial Series)

考慮\(f(x)=(1+x)^\alpha\), \(|x|<1\), \(\alpha\in\mathbb{R}\)。由泰勒定理，有 \[ (1+x)^\alpha=1+\alpha x+\frac{\alpha(\alpha-1)}{2!}x^2+\cdots+\frac{\alpha(\alpha-1)(\alpha-2)\cdots(\alpha-n+1)}{n!}x^n+R_n \] 使用\(R_n\)的柯西形式，有 \[ \begin{aligned} R_n&=\frac{(1-\theta)^n}{n!}x^{n+1}f^{(n+1)}(\theta x)\\ &=\frac{(1-\theta)^n}{n!}\alpha(\alpha-1)\cdots(\alpha-n)x^{n+1}(1+\theta x)^{\alpha-n-1} \end{aligned} \] 則 \[ |R_n|\leq(1+\theta x)^{\alpha-1}|\alpha x|\left|\left(1-\frac{\alpha}{1}\right)x\right|\left|\left(1-\frac{\alpha}{2}\right)x\right|\cdots\left|\left(1-\frac{\alpha}{n}\right)x\right| \] (因為\(|x|<1\), \(\theta\geq 0\)，我們知道\(0\leq\frac{1-\theta}{1+\theta x}\leq 1\))因為\(|x|<1\)，可以選\(q\) s.t. \(|x|<q<1\)，則可以找到\(N\)使得\(m\geq N\)時，\(\left|\left(1-\frac{\alpha}{m}\right)x\right|<q\)。則\(n\geq N\)時， \[ |R_n|\leq(1-\theta x)^{\alpha-1}|\alpha x|\left|\left(1-\frac{\alpha}{1}\right)x\right|\left|\left(1-\frac{\alpha}{2}\right)x\right|\cdots\left|\left(1-\frac{\alpha}{N}\right)x\right|\cdot q^{n-N} \] 因為\(|q|<1\)，故\(n\to\infty\)時，\(|R_n|\to 0\)。

極值判定

定理 15

令 \[ f(a+h)=f(a)+\frac{1}{r!}f^{(r)}(a)h^r+R_r \] 其中\(r>0\)是第一個使\(f^{(r)}(a)\neq 0\)的\(r\)。則：
1. 若\(r\)是偶數，則\(f\)在\(a\)有極大/小值(取決於\(f^{(r)}(a)\)的正負)。因為在\(a\)很附近(假定\(f^{(r)}(a)>0\))，有 \[ f(a)\leq f(a)+\frac{1}{r!}f^{(r)}(a)h^r \] 且\(R_r\)的次數是\(h^{r+1}\)，故在\(h\)很小時\(R_r\)可以忽略。
2. 若\(r\)是奇數，則\(f\)在\(a\)上不是極大也不是極小，說明同上。