矩阵论

Chapter 1 线性空间与内积空间

线性空间

数域的定义

简单来说就是$P$对四则运算封闭，则称$P$为一个数域

线性空间的概念

1. 给定非空集合$V$，数域$P$
2. 在$V$中定义了一种运算，称为加法，记为$\alpha +\beta$
3. 在$V$与$P$之间定义了另一种运算，称为数乘，记为$k\alpha$
4. 如果这两种运算关于$V$封闭，并且满足以下 8 条运算规律，则称$V$是$P$上的一个线性空间

Attention

注：非空集合$V$内元素的分量是$P$

• 线性空间的三个重要例子：

1. 分量属于数域$P$的全体 n 元数组$(x_1,x_2,\cdots ,x_n)$
2. 在实数域上，次数等于 n 的全体多项式
3. 在实数域上，$m\times n$矩阵全体$R^{m\times n}$

线性空间的性质

1. 线性空间的零元素是唯一的
2. 线性空间中的任一元素的负元素是唯一的
3. $0\alpha =0,(-1)\alpha =-\alpha ,k0=0$
4. 如果$k\alpha =0$，则$k=0$或$\alpha =0$

线性空间中向量的线性相关性

• 线性组合与线性表示：

• 向量组之间的等价关系：

• 线性相关和线性无关：

线性空间的基与维数

基、维数及坐标的定义

向量线性运算的坐标表示

• 两向量相加就是对应坐标向量分量相加
• 向量数乘就是每个分量乘以数

基变换与坐标变换

• 基变换、过渡矩阵概念

Attention

过渡矩阵放在基向量后面

• 坐标变换公式

Summary

• 基向量$\beta =\alpha A$，A 为从向量$\alpha$ → $\beta$的过渡矩阵
• 对于该线性空间上一向量$\gamma =\alpha (x_1,x_2,\dots ,x_n{)}^T=\beta (y_1,y_2,\dots ,y_n{)}^T$，其坐标变换为$x^T=A{y}^T$

过渡矩阵的性质

• 过渡矩阵的传递

• 过渡矩阵是可逆矩阵

• 若从$\alpha$到$\beta$的过渡矩阵为$A$，则从$\beta$到$\alpha$的过渡矩阵为$A^{-1}$

• 其它一些性质

线性子空间

线性子空间的概念

Summary

1. $W$是线性空间$V$的一个非空子集合
2. $W$对于$V$中的线性运算封闭

一些特殊的子空间

• 平凡子空间
• 生成子空间

子空间的交与和

• 交的概念

• 和的概念

> >

这道例题结合了之前的生成子空间和子空间的交与和的概念

子空间的基和维数

> dim (V_1+V_2) = dim V_1 + dim V_2 - dim(V_1 \cap V_2)

Summary

1. 直和指的是空间中$V_1\cap V_2=\{0\}$
2. 直和的两个向量相互称为补空间
3. 可以进行直和的空间叫做直和分解

内积空间

内积的定义与性质

Example

在欧氏空间中，内积为$a\cdot b=|a||b|\cos \alpha$ 但是在内积空间中，扩展了内积这一概念，内积变成了一种满足条件的任一方式

内积的性质

度量矩阵

Notice

正定：

• 广义定义：设 M 是 n 阶方阵，如果对任何非零向量 $z$，都有 $z^T\cdot M\cdot z>0$，其中 $z^T$  表示 $z$ 的转置，就称 $M$ 为正定矩阵。 正定的等价命题：

1. 正定矩阵的行列式恒为正；
2. 实对称矩阵 $A$ 正定当且仅当 $A$ 与单位矩阵合同；
3. 若 $A$ 是正定矩阵，则 $A$ 的逆矩阵也是正定矩阵；
4. 两个正定矩阵的和是正定矩阵；
5. 正实数与正定矩阵的乘积是正定矩阵；

• 模的定义

• 向量的单位化

• 模的一些性质

向量的正交性与 Schmidt 正交化方法

正交性

• 正交的定义

• 正交系的定义

• 正交系的一些性质

Schmit 正交化方法

Attention

标准正交基不唯一！ 例如在$R^3$中，$(1,0,0),(0,1,0),(0,0,1)$也是一组正交基

正交基在坐标的应用

Notice

正交矩阵：如果$A{A}^T=E$（$E$为单位矩阵，$A^T$表示“矩阵$A$的转置矩阵”）或$A^{T}A=E$，则$n$阶实矩阵$A$称为正交矩阵

空间的正交分解

>

这道题有几个难点：

1. 按照题目所示，${\alpha }_1$, ${\alpha }_2$是线性无关的，因此可以把${\alpha }_1$和${\alpha }_2$当作一组基；
2. 然后需要通过$R^4$的标准正交基和正交补空间的性质来构造条件
3. 最后得到正交补空间的基，从而求得正交补空间$W^{\perp }$

线性空间的同构

• 同构映射的性质

Note

一个好记的“说法”： 对于任意两个维数相同的空间，都可以通过数域$P$上的一组坐标做 1-1 的映射，那么根据映射的**”传递性“**，这两个空间一定可以建立一个 1-1 映射

Chapter 2 线性变换

我们把包含加法和数乘操作的线性空间到线性空间的映射叫做线性映射，而线性变换就是线性空间到自身的线性映射

线性变换的概念

线性变换的定义

Summary

根据上一章节的内容，$V$到$V$的映射满足维数相同的条件，所以是一个同构映射，且满足线性运算加法和数乘，因此变换$T$被称为线性变换

• 一些特殊的线性变换

线性变换的性质

• 值域和核

  A到B的映射，A中的元素a与B中的元素b对应，a叫原像，b叫像

  集合

• 值域和核的一些性质

  Note

  直观来理解，一个线性映射有可能把一个维度的原像映射成零向量，从而达到降维的效果

线性变换的运算

Attention

勘误：关于第(4)个运算规律里有一行是错的： $T+0=T$

线性变换的矩阵

线性变换的矩阵表示

Attention

这里需要注意，不要和矩阵的基变换、坐标变换搞混；

• 基变换是从$({\alpha }_1,{\alpha }_2,\dots ,{\alpha }_n)$到$({\beta }_1,{\beta }_2,\dots ,{\beta }_n)$，向量$\alpha$在基$({\alpha }_1,{\alpha }_2,\dots ,{\alpha }_n)$的坐标是$x$，$\beta$在基$({\beta }_1,{\beta }_2,\dots ,{\beta }_n)$的坐标是$y$，最后得到的坐标变换是$x=Ay$
• 线性变换是从像向量$\alpha$到原像向量$T(\alpha )$，$\alpha$在$({\alpha }_1,{\alpha }_2,\dots ,{\alpha }_n)$的坐标是$x$，$T(\alpha )$在$({\alpha }_1,{\alpha }_2,\dots ,{\alpha }_n)$的坐标是$y$，最后得到的坐标变换是$y=Ax$

Attention

这里注意不要和前者搞混 该定理说明，线性空间 $V$ 中的线性变换 $T$ 在两个不同基下的矩阵是相似的．反过来也可以证明，两个相似矩阵总可以看成某一线性变换在两个不同基下的矩阵．

Note

• 什么是相似？$P^{-1}AP=B,$ 则称$A$相似$B$
• 矩阵相似：判断特征值是否相等；判断行列式是否相等；判断迹是否相等；判断秩是否相等。
• 什么是合同？ $X^{T}AX=B$，则称$A$，$B$合同
• 矩阵合同：设$A,B$均为复数域上的 n 阶对称矩阵,则$A$与$B$在复数域上合同等价于$A$与$B$的秩相同；设$A,B$均为实数域上的$n$阶对称矩阵,则$A$与$B$在实数域上合同等价于$A$与$B$有相同的正、负惯性指数（即正、负特征值的个数相等）

>

• 第一问已知坐标变换，求线性变换$T$在基下的矩阵
  • 首先要求得坐标的变换公式
  • 然后要求得线性变换$T$下的矩阵
  • 最后根据坐标和线性变换的关系求得矩阵
• 第二问已知变换矩阵$B$，要求得变换矩阵$A$
  • 首先需要找到两个基的过渡矩阵
  • 然后根据过渡矩阵和线性变换的关系求得$A$

正交变换与酉变换

在内积空间中有一种特殊的线性变换，它保持向量的内 积不变，这种变换称为酉（正交）变换

正交矩阵与正交变换

• 正交矩阵的充要条件

• 一些线性变换的性质

酉矩阵与酉变换

Note

设$A\in C^{m\times n}$ ，用$\overline{A}$表示以 A 的元素的共轭复数为元素组成的矩阵，其中$C^{m\times n}$表示元素属于复数域$C$的全体$m\times n$矩阵组成的集合，按矩阵的加法和数与矩阵的数量乘法构成复数域$C$上的线性空间； 则有：$A^H=(\overline{A}{)}^T$，其中$(\overline{A}{)}^T$表示对$\overline{A}$取转置$A^H$称为$A$的共轭转置矩阵

Note

和实数上的正交矩阵基本相同

正规矩阵

Chapter 3 矩阵的 Jordan 标准形

本章主要讨论$\lambda$-矩阵的概念与基本性质，及其 Smith 标准形，然后利用$\lambda$-矩阵的理论导出矩阵的 Jordan 标准形，最后给出矩阵的 Cayley-Hamiltom 定理

$\lambda$-矩阵及其 Smith 标准形

• 多项式表示法

$\lambda$-矩阵和普通矩阵有很多概念是一样的：

• 秩的概念

• 逆矩阵的概念

Attention

注意，在$n$阶$\lambda$-矩阵中，可逆必满秩，反之则不然（因为可逆条件比较苛刻，需要保证行列式为非零常数，而满秩只要非零即可）

$\lambda$-矩阵的初等变换与等价

• 初等变换

• 初等矩阵

• 初等矩阵的性质

• $\lambda$-矩阵等价

Attention

• $\lambda$-矩阵的等价关系与一般等价关系一样，满足自反性，对称性和传递性
• 注意，若$B(\lambda )\cong A(\lambda )$，则有$|B(\lambda )=c|A(\lambda )|$

Attention

3.1.4 的逆命题不成立，即秩相等，但不一定等价

$\lambda$-矩阵的 Smith 标准形

$d_i(\lambda )|d_{i+1}(\lambda )(i=1,2,\dots ,r-1)$表示整除的意思，表示$d_i(\lambda )$可以整除$d_{i+1}(\lambda )$

Note

如何化$\lambda$矩阵为标准形？

• case 1: $a_{11}$能整除一切 在这种情况下用第一行及第一列消去其他元素
• case 2: $a_{11}$不能整除一切$a_{ij}$，可以利用初等变换降低$a_{11}$次数，具体分为三种情况：
  1. 第一行存在元素不能被$a_{11}$整除： 互换列
  2. 第一列存在元素不能被$a_{11}$整除： 互换行
  3. $a_{ii}$不能被$a_{11}$整除： 通过消除元素，变成上面两种情况

• 不变因子

• 初等因子

Note

一共有$rankA(\lambda )=r$，因此每一列有$r$个

• 一些关于不变因子和初等因子的性质

Example

关于如何找到不变因子的例题： >

$\lambda$-矩阵的行列式因子

Example

1. 利用行列式因子求解不变因子的方法 这题利用了$k$阶行列式因子的性质，先求出了该$\lambda$-矩阵的$k$阶行列式因子，然后根据定理 3.2.1 的性质，得到不变因子为$d_1(\lambda )=D_1(\lambda ),d_2(\lambda )=\frac{D_2(\lambda )}{D_1(\lambda )},d_3(\lambda )=\frac{D_3(\lambda )}{D_2(\lambda )},\dots$以此类推

2. 相伴矩阵的计算 > > > 这道题的难点在于矩阵本身是无限的，因此对矩阵本身很难看出来其结构；其次，需要对矩阵进行一次变换，将矩阵简化才能计算；最后需要对不变因子、初等因子的概念有很深刻的认识，才能知道前$n-1$个不变因子都为$1$

矩阵的 Jordan 标准形

矩阵的相似条件

• 前面学习的行列式因子，不变因子和初等因子终于排上用上了 😭

• $A$、$B$ 矩阵相似的充分必要条件

矩阵的 Jordan 标准形

>

>

• Jordan 型矩阵的初等因子 相关证明过程：

• 矩阵的 Jordan 标准形 每一个方阵都与一个 Jordan 型矩阵相似 证明：

  由定理3.3.3可得J与A相似引用错误，应该是定理 3.3.1

  需要注意，这里

  初等因子可以得到对应的Jordan 标准形

  由

• 重要推论

  > >

  • 总结求 Jordan 标准形的步骤：
    1. 求得初等因子形式为 $(\lambda -{\lambda }_i{)}^{m_i}$，其中 ${\lambda }_i$ 就是 Jordan 标准形的 ${\lambda }_i,m_i$ 表示其重复次数，
    2. 按照初等因子中的 ${\lambda }_i,m_i$ 写出 Jordan 标准形的大致结构
    3. 并按照 Jordan 标准形补 $1$

求得 Jordan 标准形后，需要求得相似变换的变换矩阵，在分块 Jordan 标准形中，有如下分块求法：

> > >

相似矩阵计算总结：

1. 计算 Jordan 标准形
2. 根据 $A(p_1,p_2,p_3)=(p_1,p_2,p_3)J$ 列出方程组
3. 解方程组
   • 先解齐次线性方程组，再解非齐次线性方程组
   • 非齐次线性方程组中，先解向量已知的，再解向量未知的

Cayley－Hamiltom 定理与最小多项式

Cayley－Hamiltom 定理

> >

矩阵的最小多项式

• 零化多项式

  >

• 最小多项式 定理 3.4.3 相似矩阵有相同的最小多项式 定理 3.4.4 $n$ 阶矩阵 $A$ 的最小多项式是唯一的 定理 3.4.5 (1) $n$ 阶矩阵 $A$ 的最小多项式的根必定是 $A$ 的特征根 (2) $A$ 的特征根必定是 $A$ 的最小多项式的根
• 重要推论

Chapter 4 矩阵分解

把矩阵分解为形式比较简单或具有某种特性的一些矩阵的乘积，一方面能明显地反映出原矩阵的某些数值特征，如矩阵的秩、行列式、特征值及奇异值等，另一方面分解的方法与过程往往提供了某些有效的数值计算方法和理论分析根据

矩阵的满秩分解

• 满秩分解

• 平凡分解

• 满秩矩阵存在的条件

  A 的满秩分解不是唯一的 定理 4.1.1 的证明过程表明，可以使用矩阵的初等行变换方法求矩阵的满秩分解

  矩阵

• 求满秩分解的方法

  > 总结一下求满秩矩阵的步骤： 目标：得到一个满秩分解，使得A=FG 1. 矩阵A先经过初等变换矩阵P，得到一个阶梯矩阵B，并计算出rank(A)=r 2. 取B中前r行做为矩阵G 3. 再求得P^{-1}，取P^{-1}的前r列作为矩阵F，即得满秩分解F和G，满足A=FG 快速求得 F 的方法： > 从图中可以看出 G 的阶梯矩阵在第一列和第二列的第一个阶梯都不为 0，因此可以把 A 中的第 1 列和第 2 列作为 F

矩阵的奇异值分解

• 一些引理

  取共轭（实部不变，虚部取负） 2. 进行一次普通转置

  H 表示共轭转置，共轭转置的步骤： 1. 对每个元素

• 奇异值

  > 由例子可以看出来，谱范数（二范数）= max\{\sigma_i\}, (i=1,2,\dots,n)

• 奇异值分解 “简单”证明： 奇异值分解步骤：

  > > >

Chapter 5 向量与矩阵的范数

本章内容主要介绍了向量范数和矩阵范数，知道范数定义和常见范数即可，具体可以查看向量范数和矩阵范数内容，在此不一一赘述