矩阵范数不等式

$||A||_2 \le ||A||_1||A||_{\infty}$

证明

引理1 严格对角占优的矩阵行列式为正

n维实矩阵A, 满足
$a_{ii}\gt \sum_{1\le j\le n, j\ne i}|a_{ij}|$
则称A为严格对角占优的矩阵，而
$∣ A ∣ > 0$

引理1的证明

对矩阵A的维数n使用数学归纳法证明

1° 当n=1时，显然成立

2° 假设当n=k时，显然成立

当n=k+1时,

$\left[ \begin{matrix} a_{11} & \vec b_1^T\\ \vec b_2 & C\\ \end{matrix} \right]$
严格对角占优条件得到， $a_{11} \gt 0$ ，所以通过行的初等变换，将 $\vec b2$ 转换为 $\vec 0$ ，此时C变为 $C’\{c’_{ij}\}$ ，取任一行i-1行
$c’_{i-1\ j-1} = \frac 1{a_{1\ 1}}({a_{1\ 1}a_{ij} – a_{1j}a_{i1}})$
所以
$\begin{aligned} \sum_{2\le j \le n, j\ne i}|c’_{i-1\ j-1}| &= \sum_{2\le j \le n, j\ne i} \frac 1{a_{1\ 1}}|{a_{1\ 1}a_{ij} – a_{1j}a_{i1}}|\\ &\le \sum_{2\le j \le n, j\ne i} |a_{ij}| + \frac {|a_{i1}|}{a_{1\ 1}} \sum_{2\le j \le n, j\ne i}|a_{1j}|\\ &\lt a_{ii} – |a_{i1}| + |a_{i1}| – \frac {|a_{i1}||a_{1i}|}{a_{1\ 1}} \\ &= a_{ii} – \frac {|a_{i1}||a_{1i}|}{a_{1\ 1}} \end{aligned}$
而
$c’_{i-1\ i-1} = \frac 1{a_{1\ 1}}({a_{1\ 1}a_{ii} – a_{1i}a_{i1}})\ge a_{ii} – \frac {|a_{i1}||a_{1i}|}{a_{1\ 1}}$
所以
$c’_{i-1\ i-1} \gt \sum_{2\le j \le n, j\ne i}|c’_{i-1\ j-1}|$
所以C’是严格对角占优矩阵， C’的维数是k，所以|C’|>0, 而 $A| = a_{1\ 1}|C’|$ 所以|A|>0成立。

综合1° 2°， $∣ A ∣ > 0$

原命题证明

令 $C\{c_{ij}\} = A^TA$ ,则 $A^TA$ 的特征多项式f(λ)
$f (λ) = ∣ λ E - C ∣$
任取 $\gt ||A||_1||A||_{\infty}$ , 令 $D\{d_{ij}\} = λ’E – CA$
$d_{ii} = λ’ – c_{ii}$
$d_{ij} = c_{ij}, j\ne i$
$d_{ii} – \sum_{1\le j \le n, j\ne i} |d_{ij}| \le λ’ – \sum_{j=1}^n |c_{ij}|$
而
$|c_{ij}| = |\sum_{k=1}^n a_{ki}a{jk}| \le \sum_{k=1}^n |a_{ki}||a_{jk}|$
所以
$\begin{aligned} \sum_{j=1}^n |c_{ij}| &\le \sum_{j=1}^n\sum_{k=1}^n |a_{ki}||a_{jk}|\\ &=\sum_{k=1}^n(|a_{ki}|\sum_{j=1}^n |a_{jk}|) \\ &\le \sum_{k=1}^n(|a_{ki}|||A||_{\infty}) \\ &= ||A||_{\infty} \sum_{k=1}^n|a_{ki}| \\ &\le ||A||_{\infty} ||A||_1 \end{aligned}$
所以
$d_{ii} – \sum_{1\le j \le n, j\ne i} |d_{ij}| \ge λ’ – ||A||_{\infty} ||A||_1 \gt 0$
所以D是严格对角占优矩阵，根据引理1，得到|D|>0,最后得到f(λ’)>0.

记 $A^TA$ 的最大特征值为 $λ_{max}$ ,而f(λ_max) = 0，所以 $λ_{max} \le ||A||_1||A||_{\infty}$
所以
$||A||_2 = λ_{max} \le ||A||_1||A||_{\infty}$

1-范数相容性

A是mxn矩阵，B是nxs矩阵,则
$||AB||_1 \le ||A||_1\ ||B||_1$

证明

令 $C\{c_{ij}\} = AB$ ,则
$c_{ij} = \sum_{k=1}^na_{in}b{nj}$
所以
$\begin{aligned} \sum_{i=0}^m |c_{ij}| &= |\sum_{i=0} \sum_{k=1}^na_{in}b{nj}| \\ &\le \sum_{k=1}^n (|b_{nj}| \sum_{i=0}^m |a_{in}|) \\ &\le \sum_{k=1}^n (|b_{nj}| ||A||_1) \\ &= ||A||_1 \sum_{k=1}^n |b_{nj} \\ &\le ||A||_1\ ||B||_1 \end{aligned}$
所以
$||AB||_1\le ||A||_1\ ||B||_1$

2-范数相容性

A是mxn矩阵，B是nxs矩阵,则
$||AB||_2 \le ||A||_2\ ||B||_2$

证明

任取一个s维向量 $\vec x$ 满足 $||\vec x||_2 = 1$ ,则
$||B\vec x||_2 \le ||B||_2$
令
$\vec y = \frac{B\vec x}{||B\vec x||_2}$
则
$||A\vec y||_2 \le ||A||_2$
所以
$||AB\vec x||_2 = ||B\vec x||_2\ ||A\vec y||_2 \le ||B||_2\ ||A||_2$
所以
$||AB||_2 \le ||A||_2\ ||B||_2$