向量范数

这里所指的范数是有限维线性空间中的范数，关于一般的线性空间（线性泛函场合下研究的）范数参见范数。

在向量分析中，向量范数是衡量向量大小的概念，它是向量欧几里得长度的推广。

概念

设有数域$\mathbb{P}$上的$n$维线性空间$V$，在其上定义了一个$n$元函数$\Vert \cdot \Vert: V \to \R$，它满足

• 正定性：$\Vert \boldsymbol{x} \Vert \geqslant 0$，等号成立当且仅当$\boldsymbol{x} = \boldsymbol{0};$
• 齐次性：对任意常数$a \in \mathbb{P}$，$\Vert a \boldsymbol{x} \Vert = |a| \Vert \boldsymbol{x} \Vert;$
• 三角不等式：$\Vert \boldsymbol{x} + \boldsymbol{y} \Vert \leqslant \Vert \boldsymbol{x} \Vert + \Vert \boldsymbol{y} \Vert.$

我们就称该函数$\Vert \cdot \Vert$为一个向量范数。

显然，我们熟知的欧几里得长度就是一个范数。如果定义中第一条的“当且仅当”不成立，但其它都成立，我们称这样的函数为一个向量半范数。

向量（半）范数还有一个三角不等式，那就是

$$|~\Vert \boldsymbol{x} \Vert - \Vert \boldsymbol{y} \Vert~| \leqslant \Vert \boldsymbol{x} - \boldsymbol{y} \Vert, \quad \forall \boldsymbol{x}, \boldsymbol{y} \in V.$$

内积和范数

向量范数和内积有密切关系，如果$(,)$提供了$V$上的一个内积，那么$\Vert x \Vert := \sqrt{(x, x)}$就是一个向量范数，我们称这样的范数是由内积$(,)$诱导的。

但是并不是所有向量范数都可以由内积诱导，例如$\Vert \boldsymbol{x} \Vert_\infty = \max_{1 \leqslant i \leqslant n} |x_i|$就不能由内积诱导。

一个向量范数可以由内积诱导当且仅当有如下平行四边形恒等式成立：

$$\Vert \boldsymbol{x} + \boldsymbol{y} \Vert^2 + \Vert \boldsymbol{x} - \boldsymbol{y} \Vert^2 = 2(\Vert \boldsymbol{x} \Vert^2 + \Vert \boldsymbol{y} \Vert^2), \quad \forall \boldsymbol{x}, \boldsymbol{y} \in V.$$

如果$\Vert \cdot \Vert$是内积$(,)$诱导的向量范数，那么有如下极化恒等式成立：

$$\operatorname{Re} (\boldsymbol{x}, \boldsymbol{y}) = \dfrac{1}{4} (\Vert \boldsymbol{x} + \boldsymbol{y} \Vert^2 + \Vert \boldsymbol{x} - \boldsymbol{y} \Vert^2), \quad \forall \boldsymbol{x}, \boldsymbol{y} \in V.$$

也有如下不等式成立：

$$\Vert \boldsymbol{x} + \boldsymbol{y} \Vert ~ \Vert \boldsymbol{x} - \boldsymbol{y} \Vert \leqslant \Vert \boldsymbol{x} \Vert^2 + \Vert \boldsymbol{y} \Vert^2, \quad \forall \boldsymbol{x}, \boldsymbol{y} \in V.$$

例子

1. Euclid 范数（$l_2$范数）：$\Vert \boldsymbol{x} \Vert_2 = \left( \sum_{i=1}^n |x_i|^2 \right)^\frac{1}{2}.$可以由内积诱导，是我们最熟悉的一种向量范数，它用来度量 Eucild 距离，它是正交不变范数。
2. 和范数（$l_1$范数）：$\Vert \boldsymbol{x} \Vert_1 = \sum_{i=1}^n |x_i|.$它由沿各坐标方向的直线度量，不能由内积诱导。
3. $l_p$范数（$p \geqslant 1$）：$\Vert \boldsymbol{x} \Vert_p = \left( \sum_{i=1}^n |x_i|^p \right)^\frac{1}{p}.$
4. 极大范数（$l_\infty$范数）：$\Vert \boldsymbol{x} \Vert_\infty = \max_{1 \leqslant i \leqslant n} |x_i|.$不能由内积导出，且有$\Vert \boldsymbol{x} \Vert_\infty = \lim_{p \to \infty} \Vert \boldsymbol{x} \Vert_p.$

构造

构造定理一：设$\Vert \cdots \Vert_{\alpha_i}, i = 1,2,\cdots,m$是一列$V$上的向量范数，设$\Vert \cdots \Vert_\beta$是$\R^m$上的向量范数，它对任意具有非负分量的所有$\boldsymbol{y}, \boldsymbol{z} \in \R^m$都有$\Vert \boldsymbol{y} \Vert_\beta \leqslant \Vert \boldsymbol{y} + \boldsymbol{z} \Vert_\beta$，则由

$$\Vert \boldsymbol{x} \Vert := \Vert (\Vert \boldsymbol{x} \Vert_{\alpha_1}, \Vert \boldsymbol{x} \Vert_{\alpha_2}, \cdots, \Vert \boldsymbol{x} \Vert_{\alpha_m})^\text{T} \Vert_\beta$$

是$V$上的一个向量范数。

构造定理二：设$\Vert \cdot \Vert$是$\C^n$上的向量范数，且$\boldsymbol{T}$是$\C^{n \times n}$上的可逆矩阵，那么

$$\Vert \boldsymbol{x} \Vert_{\boldsymbol{T}} = \Vert \boldsymbol{Tx} \Vert$$

也是$\C^n$上的一个向量范数。

上下节

• 下一节：向量序列

参考资料

1. Roger A. Horn, Matrix Analysis(2nd Ed.), Cambridge University Press, 2012-10, ISBN 978-0-5215-4823-6.