極值定理
本文簡介極值定理(extreme value theorem)的證明。
術語
單調性
設 $(a_n)_{n \geq 0}$ 為一實數數列。
若對所有非負整數 $n$ 均有 $a_n \leq a_{n+1} \comma$則稱 $(a_n)_{n \geq 0}$ 遞增;若對所有非負整數 $n$ 均有 $a_n \geq a_{n+1} \comma$則稱 $(a_n)_{n \geq 0}$ 遞減。
當 $(a_n)_{n \geq 0}$ 為遞增或遞減時,我們稱 $(a_n)_{n \geq 0}$ 為單調。
有界性
設 $p$ 為一正整數。
對任意 $x = (x_0 \cm x_1, \ldots, x_{p-1}) \in \RR^p \comma$定義 \[\begin{split}\lVert x \rVert = \sqrt{\sum_{i=0}^{p-1} x_i^2} \period\end{split}\]
對任意 $\RR^p$ 中的序列 $(a_n)_{n \geq 0} \comma$若存在正實數 $M$ 使 $\lVert a_n \rVert < M$ 對所有非負整數 $n$ 均成立,則稱 $(a_n)_{n \geq 0}$ 有界。
子序列
對任意序列 $(a_n)_{n \geq 0} \comma$若 $\phi \colon \{0 \cm 1, \ldots\} \to \{0 \cm 1, \ldots\}$ 為一函數,其中對所有非負整數 $n$ 均有 $\phi(n) < \phi(n+1) \comma$則我們稱數列 $(a_{\phi(n)})_{n \geq 0}$ 為 $(a_n)_{n \geq 0}$ 的一個子序列。
實函數的極值定理
本節我們的目標是要證明實函數的極值定理(extreme value theorem):定義在有界閉區間上的實數值連續函數會具有最大、最小值。
極值定理的證明會需要波爾札諾―魏爾施特拉斯定理(Bolzano–Weierstrass theorem),其說明每個有界實數數列都會具有收斂的子數列。
波爾札諾―魏爾施特拉斯定理
首先我們先證明實數集的波爾札諾―魏爾施特拉斯定理。
定理 1 每個實數數列 $(a_n)_{n \geq 0}$ 均存在一單調子數列 $(a_{\phi(n)})_{n \geq 0} \period$
證明 設 $S$ 為非負整數集 $\{0 \cm 1, \ldots\}$ 的子集,其中 $n \in S$ 的充要條件為對所有整數 $m > n$ 均有 $a_m < a_n \period$
狀況 1:$S$ 為有限集合。設 \[\begin{split}\phi(0) = \begin{cases}0 & \when S = \varnothing \\ \max S + 1 & \when S \neq \varnothing\end{cases} \period\end{split}\]對每個非負整數 $n \comma$由於 $\phi(n) \notin S \comma$我們均能找到一個大於 $\phi(n)$ 的整數 $\phi(n + 1)$ 使得 $a_{\phi(n+1)} \geq a_{\phi(n)} \period$此時 $(a_{\phi(n)})_{n \geq 0}$ 即為一遞增數列。
狀況 2:$S$ 為無限集合。設 $S$ 的元素由小到大依序為 \[\begin{split}\phi(0) \cm \phi(1) \cm \phi(2), \ldots \comma\end{split}\]則 $(a_{\phi(n)})_{n \geq 0}$ 即為一遞減數列。
定理 2(實數集的波爾札諾―魏爾施特拉斯定理) 每個有界實數數列 $(a_n)_{n \geq 0}$ 均存在一收斂子數列 $(a_{\phi(n)})_{n \geq 0} \period$
證明 由定理 1 可知 $(a_n)_{n \geq 0}$ 具有一個單調子數列 $(a_{\phi(n)})_{n \geq 0} \period$此時 $(a_{\phi(n)})_{n \geq 0}$ 亦有界;由於單調有界的實數數列均收斂,故定理得證。
極值定理
有波爾札諾―魏爾施特拉斯定理後,我們就可以來證明極值定理了。
定理 3 設 $a \jcomma b$ 為實數,滿足 $a < b \period$若一函數 $f \colon [a, b] \to \RR$ 連續,則 $f$ 有界。
證明 我們依序證明 (a) $f$ 有上界;(b) $f$ 有下界。
首先我們以反證法證明 (a)。假設 $f$ 不具上界。設 $(x_n)_{n \geq 0}$ 為 $[a, b]$ 中的一個數列,其中 $f(x_n) \geq n \period$則由定理 2(波爾札諾―魏爾施特拉斯定理),可知 $(x_n)_{n \geq 0}$ 有一收斂子數列 $(x_{\phi(n)})_{n \geq 0} \semicolon$設 $(x_{\phi(n)})_{n \geq 0}$ 收斂至 $c \period$由於 $f$ 連續,故 $(\.f(x_{\phi(n)}))_{n \geq 0}$ 收斂至 $f(c) \period$然而此時對任意非負整數 $n \comma$均有 \[\begin{split}f(x_{\phi(n)}) \geq \phi(n) \geq n \comma\end{split}\]即 $(\.f(x_{\phi(n)}))_{n \geq 0}$ 不具上界,因而導致矛盾。由此可知 (a) 成立。
接著證明 (b):由 (a) 可知 $-f$ 具有一上界 $M \comma$此時 $-M$ 即為 $f$ 的下界。
定理 4(極值定理) 設 $a \jcomma b$ 為實數,滿足 $a < b \period$若一函數 $f \colon [a, b] \to \RR$ 連續,則 $f$ 具有最大值與最小值。
證明 我們依序證明 (a) $f$ 有最大值;(b) $f$ 有最小值。
首先證明 (a)。由定理 3 可知 $f$ 具有最小上界 $M \comma$此時我們需要證明 $M$ 在 $f$ 的值域中。
考慮反證法,假設 $M$ 不在 $f$ 的值域中,即 $f(x) < M$ 對所有 $x \in [a, b]$ 都成立。設 $g \colon [a, b] \to \RR \comma$其中 \[\begin{split}\rod{4}{0}g(x) = \frac{1}{M - f(x)} \period\end{split}\]此時對任意正實數 $c \comma$均能找到 $u \in [a, b]$ 使得 \[\begin{split}\rod{4}{0}f(u) > M - \frac{1}{c} \comma\end{split}\]此時即有 $g(u) > c \period$由此可知 $g$ 不具上界,與定理 3 矛盾。故 (a) 成立。
接著證明 (b):由 (a) 可知 $-f$ 具有最大值 $M \comma$此時 $-M$ 即為 $f$ 的最小值。