永蔚Alex

Nautical Nonsense and Abstract Nonsense

0%

線性代數:向量空間

這份筆記是關於向量空間的定義與性質。

向量空間

定義 1:體 (Field)

考慮一個集合\(F\)。我們在\(F\)上定義兩種運算:加法(\(+\))和乘法(\(\cdot\))
(定義在\(F\)上的意思是\(\forall a,b\in F\), \(a+b\in F\), \(a\cdot b\in F\)。)
\(F\)符合以下五個公理,則稱\(F\)為體:
(F1) 交換律 (Communitativity): \[ \forall a,b\in F, a+b=b+a, a\cdot b=b\cdot a \] (F2) 結合律 (Associativity): \[ \forall a,b,c\in F, (a+b)+c=a+(b+c), (a\cdot b)\cdot c=a\cdot(b\cdot c) \] (F3) 單位元素 (Unit Element): \[ \exists 0,1\in F\mbox{ s.t. }\forall a\in F, a+0=a, a\cdot 1=a \] (F4) 反元素 (Inverse Element): \[ \begin{aligned} \forall a\in F, \exists (-a)\in F\mbox{ s.t. }a+(-a)&=0\\ \forall 0\neq b\in F, \exists b^{-1}\in F\mbox{ s.t. }b\cdot(b^{-1})&=1 \end{aligned} \] (F5) 分配律 (Distributivity): \[ \forall a,b,c\in F, a\cdot(b+c)=a\cdot b+a\cdot c \]

定義 2:向量空間 (Vector Space)

給定向量集\(V\)與純量體\(F\),以及我們在\(V\)上定義加法(\(\forall x,y\in V, x+y\in V\))與純量乘法(\(\forall a\in F, v\in V, a\cdot v\in V\))。若\(V\)符合以下八個公理,我們稱\(V\)\(F\)上的向量空間:
(VS1) 加法交換律 (Additive Communitativity): \[ \forall x,y\in V, x+y=y+x \] (VS2) 加法結合律 (Additive Associativity): \[ \forall x,y,z\in V, (x+y)+z=x+(y+z) \] (VS3) 加法單位元素 (Additive Unit Element): \[ \exists 0\in V\mbox{ s.t. }\forall x\in V, 0+x=x \] (VS4) 加法反元素 (Additive Inverse Element): \[ \forall x\in V, \exists y\in V\mbox{ s.t. }x+y=0 \] (VS5) 乘法單位元素 (Multiplicative Unit Element): \[ \mbox{For }1\in F, \forall x\in V, 1\cdot x=x \] (VS6) 乘法結合律 (Multiplicative Associativity): \[ \forall a,b\in F,x\in V, a\cdot(b\cdot x)=(a\cdot b)\cdot x \] (VS7) 左分配律 (Left-Distributivity): \[ \forall a\in F, x,y\in V, a\cdot(x+y)=a\cdot x+a\cdot y \] (VS8) 右分配律 (Left-Distributivity): \[ \forall a,b\in F, x\in V, (a+b)\cdot x=a\cdot x+b\cdot x \]

性質 2-1:消除法則 (Cancellation Law)

給定向量空間\(V\)\(x,y,z\in V\),若\(x+z=y+z\),則\(x=y\)

證明:我們有 \[ \begin{aligned} x+z=y+z&\Rightarrow(x+z)+(-z)=(y+z)+(-z)\\ &\Rightarrow x+(z+(-z))=y+(z+(-z))\;(VS2)\\ &\Rightarrow x+0=y+0\;(VS4)\\ &\Rightarrow x=y\;(VS3) \end{aligned} \] QED

性質 2-2

對於\(0\in F\),有\(\forall x\in V\), \(0x=0\)

證明:在\(F\)\(0+0=0\;(F3)\),故 \[ 0x+\underbrace{0}_{\in V}=0x=(0+0)x=0x+0x\; (VS8) \] 故由消除法則, \[ \bcancel{0x}+0x=\bcancel{0x}+0\Rightarrow 0x=0 \] QED

性質 2-3

對於\(0\in V\),有\(\forall a\in F\), \(a\cdot 0=0\)

證明:在\(V\)\(0+0=0\;(VS3)\),故 \[ a\cdot 0+a\cdot 0=a\cdot(0+0)=a\cdot 0=a\cdot 0+0 \] 故由消除法則, \[ \bcancel{a\cdot 0}+a\cdot 0=\bcancel{a\cdot 0}+0\Rightarrow a\cdot 0=0 \] QED

性質 2-4

\[ \forall a\in F, x\in V, (-a)x=-(ax)=a(-x) \] 其中\(-(ax)\)\(V\)中使\(ax+(-(ax))=0\)的向量。

證明:我們有 \[ \begin{aligned} ax+(-a)x&=(a+(-a))x\;(VS8)\\ &=0x=0\mbox{ (性質2-2)}\\ &=ax+(-(ax)) \end{aligned} \] 故由消除法則, \[ \bcancel{ax}+(-a)x=\bcancel{ax}+(-(ax))\Rightarrow (-a)x=-(ax) \] 而又有 \[ \begin{aligned} a(x+(-x))&=a\cdot 0=0\mbox{ (性質2-3)}\\ &=ax+a(-x)\;(VS7)\\ &=ax+(-(ax)) \end{aligned} \] 故由消除法則, \[ \bcancel{ax}+a(-x)=\bcancel{ax}+(-(ax))\Rightarrow a(-x)=-(ax) \] QED

定義 3:子空間 (Subspace)

給定向量空間\(V\),若\(W\subseteq V\)也是向量空間,則稱\(W\)\(V\)的子空間。

註記 3-1

由於定義2中的(VS1)~(VS8)在\(W\)中都成立,故我們只要檢查運算封閉性就好。意即\(W\)\(V\)的子空間若且唯若: \[ \left\{ \begin{aligned} &\forall x,y\in W, x+y\in W\\ &\forall a\in F,x\in W, ax\in W \end{aligned} \right. \] (有些書上還會包含\(0\in W\),但這其實可以從\(-x\in W\)\(x+(-x)=0\in W\)推導而出)。

定理 4

任意多個\(V\)的子空間的交集還是\(V\)的子空間。

證明:令\(W_i\subseteq V\)為給定的子空間們,且\(i\in I\)\(I\)為指標集(Index Set)。並令 \[ W=\bigcap_{i\in I}W_i \] 則對於所有\(x,y\in W\),都有\(x,y\in W_i\), \(\forall i\in I\),故由註記3-1有 \[ \forall i\in I,\left\{ \begin{aligned} &\forall x,y\in W_i, x+y\in W_i\\ &\forall a\in F,x\in W_i, ax\in W_i \end{aligned} \right. \] 於是 \[ \left\{ \begin{aligned} &\forall x,y\in W, x+y\in W\\ &\forall a\in F,x\in W, ax\in W \end{aligned} \right. \] 於是由註記3-1知\(W\)\(V\)的子空間。QED

線性組合

定義 5:線性組合 (Linear Combination)

給定\(F\)上的向量空間\(V\),並給定子集\(\varnothing\neq S\subseteq V\)。我們說\(x\in V\)\(S\)的線性組合中的一個元素,若存在有限多元素\(y_1,\cdots,y_n\in S\)\(a_1,\cdots,a_n\)使得 \[ x=a_1y_1+a_2y_2+\cdots+a_ny_n \]

定理 6

給定\(F\)上的向量空間\(V\),並給定子集\(\varnothing\neq S\subseteq V\)。考慮集合\(W\),其中\(W\)包含\(S\)中元素的所有線性組合,則\(W\)\(V\)的子空間,且\(W\)是包含\(S\)\(V\)的子空間之中最小的。

證明:給定\(y,z\in W\),則由定義知存在\(a_i,b_j\in F, x_i,w_j\in S\)使得 \[ y=a_1x_1+\cdots+a_nx_n, z=b_1w_1+\cdots+b_mw_m \] 則顯然\(y+z\in W\),且對於所有\(c\in F\)\[ cy=\underbrace{(ca_1)}_{\in F}x_1+\cdots+\underbrace{(ca_n)}_{\in F}x_n\in W \] 由註記3-1知\(W\)\(V\)的子空間。
接著,我們令\(W'\)是另一個包含\(S\)\(V\)的子空間,則對於所有\(y\in W\),存在\(a_1,\cdots,a_n\in F\)使得 \[ y=a_1x_1+\cdots+a_nx_n \] 然而\(x_1,\cdots,x_n\in S\subseteq W'\),所以\(y\in W'\)。於是,有\(W\subseteq W'\)QED

定義 6-1:線性展式 (Linear Span)

定理5中的\(W\)稱為\(S\)的線性展式,記為 \[ \mbox{span}(S)=W \] 並且,我們在這裡說\(S\)生成(Generate)\(W\)
一般來說,我們約定\(\mbox{span}(\varnothing)=\{0\}\)

線性相依與線性獨立

定義 7:線性相依與線性獨立 (Linear Dependent and Linear Independent)

給定\(F\)上的向量空間\(V\),並給定子集\(S\subseteq V\)。則我們可以定義以下兩種特性:

定義 7-1:線性相依 (Linear Dependent)

我們說\(S\)是線性相依的,若存在有限多個不同向量\(x_1,\cdots,x_n\in S\)與不全為零的純量\(a_1,a_2,\cdots,a_n\in F\)使得 \[ a_1x_1+a_2x_2+\cdots+a_nx_n=0 \]

定義 7-1-1:線性關係 (Linear Relation)

我們把定義6-1中的 \[ a_1x_1+a_2x_2+\cdots+a_nx_n=0 \] 稱為線性關係。

定義 7-2:線性獨立 (Linear Independent)

\(S\)不是線性相依的,則稱\(S\)為線性獨立的。

推論 7-3

給定\(F\)上的向量空間\(V\),並給定子集\(S_1\subseteq S_2\subseteq V\)。則:
1. 若\(S_1\)線性相依,則\(S_2\)線性相依。
2. 若\(S_2\)線性獨立,則\(S_1\)線性獨立。