算子范数 是数学 中泛函分析 里的概念。算子范数衡量的是线性映射 或线性算子 的“大小”,通常指的是两个赋范向量空间 之间的有界线性映射 所构成的空间的范数。
给定两个赋范向量空间E 和F ,假定它们的系数域相同(一般是实数 域 R {\displaystyle \mathbb {R} } 或复数 域 C {\displaystyle \mathbb {C} } )。从E 到F 的一个线性映射A 是连续的当且仅当存在常数c > 0 使得:
∀ u ∈ E , ‖ A ( u ) ‖ F ⩽ c ⋅ ‖ u ‖ E . {\displaystyle \forall u\in E,\;\;\|A(u)\|_{F}\leqslant c\cdot \|u\|_{E}.} 其中的 ‖ ⋅ ‖ E {\displaystyle \|\cdot \|_{E}} 和 ‖ ⋅ ‖ F {\displaystyle \|\cdot \|_{F}} 分别是空间E 和F 上装备的范数。这个定义说明,连续线性映射将一个E 里面的向量映射到F 中时,其“长度”的改变不会超过c 倍。常数c 是对线性映射A 的“效果”的一个上界估计。所以,有界的集合经过连续映射后的像仍然会是有界集合。因为这一点,连续线性映射也被称作有界算子。而为了“精确计算”线性映射的“大小”,会引进算子范数的定义。有界线性算子的范数是能够作为上界估计的c 所有常数中“最小”的一个:
‖ A ‖ o p = inf { c ; ‖ A ( u ) ‖ F ⩽ c ⋅ ‖ u ‖ E , ∀ u ∈ E } . {\displaystyle \|A\|_{op}=\inf\{c\;;\;\;\|A(u)\|_{F}\leqslant c\cdot \|u\|_{E},\;\;\forall u\in E\}.} 其中的 inf {\displaystyle \inf } 指下确界 。由于实数 集合 { c ; ‖ A ( u ) ‖ F ⩽ c ⋅ ‖ u ‖ E ∀ u ∈ E } {\displaystyle \{c;\;\;\|A(u)\|_{F}\leqslant c\cdot \|u\|_{E}\;\forall u\in E\}} 是有下界的闭集 ,定义中的下确界 inf {\displaystyle \inf } 可以改成“最小元素”: min {\displaystyle \min } 。
当F 是E 的系数域时,从E 到F 的连续线性映射被称为连续线性泛函。连续线性泛函构成的空间被称为从E 的对偶空间 ,而连续线性泛函的算子范数被称为对偶范数 。对偶空间在对偶范数下是一个巴拿赫空间 。
考虑两个装备了正则欧几里德范数的欧几里德空间: R n {\displaystyle \mathbb {R} ^{n}} 和 R m {\displaystyle \mathbb {R} ^{m}} ,其中 n , m {\displaystyle n,m} 都是正整数。从 R n {\displaystyle \mathbb {R} ^{n}} 映射到 R m {\displaystyle \mathbb {R} ^{m}} 的有界线性算子(线性映射)都可以用 n × m {\displaystyle n\times m} 的矩阵 来表示。所以这些算子构成的空间实际上是矩阵空间: M n , m ( R ) {\displaystyle {\mathcal {M}}_{n,m}(\mathbb {R} )} ,而对应的算子范数也称为矩阵范数 。假设某个线性映射对应的矩阵是 A {\displaystyle A} ,那么它的矩阵范数是 A ∗ A {\displaystyle A^{*}A} 的最大特征值 的平方根 ,或者说是 A {\displaystyle A} 的最大的奇异值 。
对于无限维的赋范空间,常见的例子有平方可加序列空间 ℓ 2 {\displaystyle \ell ^{2}} 。其定义为:
ℓ 2 = { ( a n ) n ∈ N ; a n ∈ C , ∑ n | a n | 2 < ∞ } . {\displaystyle \ell ^{2}=\{(a_{n})_{n\in \mathbb {N} };\;\;a_{n}\in \mathbb {C} ,\;\sum _{n}|a_{n}|^{2}<\infty \}.} 给定一个有界数列 s = ( s n ) n ∈ N ∈ ℓ ∞ {\displaystyle s=(s_{n})_{n\in \mathbb {N} }\in \ell ^{\infty }} ,考虑从 ℓ 2 {\displaystyle \ell ^{2}} 到自身的线性算子 T s {\displaystyle T_{s}} :
∀ a = ( a n ) n ∈ N ∈ ℓ 2 , T ( a ) = ( s n ⋅ a n ) n ∈ N . {\displaystyle \forall a=(a_{n})_{n\in \mathbb {N} }\in \ell ^{2},\;\;T(a)=(s_{n}\cdot a_{n})_{n\in \mathbb {N} }.} 由于 s {\displaystyle s} 是有界序列,其范数 ‖ s ‖ ∞ = sup { | s n | ; n ∈ N } < + ∞ {\displaystyle \|s\|_{\infty }=\sup\{|s_{n}|;\;\;n\in \mathbb {N} \}<+\infty } ,所以 ‖ T s ( a ) ‖ 2 ⩽ ‖ s ‖ ∞ ‖ a ‖ 2 {\displaystyle \|T_{s}(a)\|_{2}\leqslant \|s\|_{\infty }\|a\|_{2}} 。 T {\displaystyle T} 是连续线性算子(有界算子)。而 T s {\displaystyle T_{s}} 的算子范数:
‖ T s ‖ o p = ‖ s ‖ ∞ . {\displaystyle \|T_{s}\|_{op}=\|s\|_{\infty }.} 类似的例子还有 L p {\displaystyle L^{p}} 空间 之间的映射。例如考虑平方可积函数的空间 L 2 ( R ) {\displaystyle L^{2}(\mathbb {R} )} ,设有从 L 2 ( R ) {\displaystyle L^{2}(\mathbb {R} )} 映射到 L 2 ( R ) {\displaystyle L^{2}(\mathbb {R} )} 的线性算子 T f {\displaystyle T_{f}} :
∀ φ ∈ L 2 ( R ) , ( T f ( φ ) ) ( t ) = f ( t ) ϕ ( t ) . {\displaystyle \forall \varphi \in L^{2}(\mathbb {R} ),\;\;(T_{f}(\varphi ))(t)=f(t)\phi (t).} 其中f 为给定的有界函数。则 T f {\displaystyle T_{f}} 是连续线性算子,其算子范数为:
‖ T f ‖ o p = ‖ f ‖ ∞ . {\displaystyle \|T_{f}\|_{op}=\|f\|_{\infty }.} 线性算子A 的算子范数除了定义为
‖ A ‖ o p = inf { c ; ‖ A ( u ) ‖ F ⩽ c ⋅ ‖ u ‖ E ∀ u ∈ E } . {\displaystyle \|A\|_{op}=\inf\{c;\;\;\|A(u)\|_{F}\leqslant c\cdot \|u\|_{E}\;\forall u\in E\}.} 以外,还可以用以下等价的方式定义[ 1] :97 :
A 的算子范数是A 在单位闭球上取值的上确界: ‖ A ‖ o p = sup { ‖ A ( u ) ‖ F ; u ∈ E , ‖ u ‖ E ≤ 1 } , {\displaystyle \|A\|_{op}=\sup\{\|A(u)\|_{F};\;\;u\in E,\;\;\|u\|_{E}\leq 1\},} A 的算子范数是A 在单位开球上取值的上确界: ‖ A ‖ o p = sup { ‖ A ( u ) ‖ F ; u ∈ E , ‖ u ‖ E < 1 } , {\displaystyle \|A\|_{op}=\sup\{\|A(u)\|_{F};\;\;u\in E,\;\;\|u\|_{E}<1\},} A 的算子范数是A 在单位球面上取值的上确界: ‖ A ‖ o p = sup { ‖ A ( u ) ‖ F ; u ∈ E , ‖ u ‖ E = 1 } , {\displaystyle \|A\|_{op}=\sup\{\|A(u)\|_{F};\;\;u\in E,\;\;\|u\|_{E}=1\},} A 的算子范数是A 在E 中非零元素上取值和元素范数之比的上确界: ‖ A ‖ o p = sup { ‖ A ( u ) ‖ F ‖ u ‖ E ; u ∈ E , u ≠ 0 } . {\displaystyle \|A\|_{op}=\sup\{{\frac {\|A(u)\|_{F}}{\|u\|_{E}}};\;\;u\in E,\;\;u\neq 0\}.} 算子范数是所有从E 到F 的有界线性算子构成的空间上的范数,因此满足范数的基本性质:
正定性: ‖ A ‖ o p ⩾ 0 {\displaystyle \|A\|_{op}\geqslant 0} ,并且 ‖ A ‖ o p = 0 {\displaystyle \|A\|_{op}=0} 当且仅当 A = 0. {\displaystyle A=0.} 线性性: ∀ a ∈ K , ‖ a A ‖ o p = | a | ‖ A ‖ o p . {\displaystyle \forall a\in \mathbb {K} ,\;\;\|aA\|_{op}=|a|\|A\|_{op}.} 次可加性: ‖ A + B ‖ o p ⩽ ‖ A ‖ o p + ‖ B ‖ o p . {\displaystyle \|A+B\|_{op}\leqslant \|A\|_{op}+\|B\|_{op}.} [ 1] :98 此外,由算子范数的定义可推出以下不等式:
∀ u ∈ E , ‖ A ( u ) ‖ F ⩽ ‖ A ‖ o p ‖ u ‖ E . {\displaystyle \forall u\in E,\;\;\|A(u)\|_{F}\leqslant \|A\|_{op}\|u\|_{E}.} [ 1] :97 有界算子复合後的算子范数仍然存在。假设有从E 到F 的有界线性算子A 以及从F 到G 的有界线性算子B ,那么复合算子B ∘ {\displaystyle \circ } A 也是从E 到G 的有界线性算子,其算子范数满足不等式:
‖ B ∘ A ‖ o p ⩽ ‖ B ‖ o p ‖ A ‖ o p . {\displaystyle \|B\circ A\|_{op}\leqslant \|B\|_{op}\|A\|_{op}.} [ 1] :98 例如当A 是E 到自身的有界线性算子时,有: ‖ A ( n ) ‖ o p ⩽ ‖ A ‖ o p n . {\displaystyle \|A^{(n)}\|_{op}\leqslant \|A\|_{op}^{n}.}
如果F 是完备空间 ,那么从E 到F 的有界线性算子构成的空间,在装备了算子范数下是完备的空间。[ 1] :98
^ 1.0 1.1 1.2 1.3 1.4 A. N. Kolmogorov, S. V. Fomin 著 Leo F. Boron 译. Elements of the Theory of Functions and Functional Analysis Volume I: Metric and Normed Spaces. New York: Ghaylock Press. 1957 (英语) .