MIT Linear Algebra
LovisMind · 阅读与思考Gilbert Strang · Spring 2005
MIT Linear Algebra
从方程组的三种视角出发，依次讲消元与 LU 分解、矩阵乘法与逆、四个基本子空间，再到正交投影、行列式、特征值、SVD 与线性变换。按 Strang 的讲法强调几何直觉，公式只是把直觉写下来；每章附原始讲座链接。
目录
- 00Strang 谈教学：把数学讲成人能想明白的东西中 / EN一次访谈里，Strang 讲他为什么不在课上赶进度、为什么愿意在学生面前卡住、以及他如何判断一个细节该讲多深。
- 01线性方程组的三种视角：行、列与矩阵中 / EN同一个方程组可以看成相交的直线、列向量的线性组合，或一个线性映射。列图像是能推广到任意维度的那个。
- 02消元法：从方程组到上三角矩阵中 / EN消元是所有软件真正使用的解法：用主元消去下方的系数，再回代求解；把每一步写成矩阵，就得到 E 与 U，以及判断矩阵是否可逆的方法。
- 03矩阵乘法与逆矩阵：五种算法与 Gauss-Jordan中 / EN矩阵乘法可以从元素、列、行、列乘行、分块五个角度看，答案相同；方阵可逆当且仅当不存在非零向量被它送到零；Gauss-Jordan 用增广矩阵一次求出逆。
- 04A = LU：把消元写成一次分解中 / EN消元的每一步都是一个初等矩阵；把它们的逆按相反顺序乘回去，就得到 A = LU。L 里直接保存乘数，U 保存主元与消元结果。
- 05转置、排列与向量空间 R^n中 / EN转置翻转行列，排列矩阵重排行序，二者都满足「反序」规则；向量空间则要求对加法与数乘封闭，这个要求直接推出「必须包含零向量」。
- 06列空间与零空间：矩阵产生的两个子空间中 / EN列空间回答「哪些 b 有解」，零空间回答「哪些 x 被送到零」。前者由列向量张成，后者由齐次方程的解组成；两者都是子空间，而 Ax=b 的解集不是。
- 07解 Ax = 0：主元变量、自由变量与特殊解中 / EN消元把矩阵化为阶梯形；主元列的个数就是秩 r，剩下 n-r 个自由变量。给每个自由变量取 1、其余取 0，就得到零空间的一组特殊解。
- 08解 Ax = b：特解加零空间，以及秩决定一切中 / EN先把增广矩阵消元，零行给出可解条件；再令自由变量为零求出一个特解，加上零空间的全部向量就是通解。秩 r 与 m、n 的关系决定了解的个数。
- 09线性无关、基与维数中 / EN把「无关」「张成」「基」「维数」四个词一次定义清楚：无关看零组合是否唯一，张成看所有组合，基是二者兼具，维数是所有基共同的向量个数。
- 10四个基本子空间中 / EN一个 m×n 矩阵自带四个子空间：列空间、零空间、行空间与左零空间；它们的基、维数与所在的 R^m / R^n 构成线性代数的主干。
- 11矩阵空间、秩一矩阵与小世界图中 / EN向量空间不限于 R^n：矩阵、函数都可以是向量。秩一矩阵是构造所有矩阵的积木，图则把线性代数带到网络与友谊链上。
- 12图、网络与关联矩阵中 / EN关联矩阵把图的节点与边变成线性代数：零空间是常电位，左零空间是回路，秩与回路数给出欧拉公式，三个方程串起电路与网络。
- 13第一次测验复习：按题型整理中 / EN把前半学期的考点压成几类：维数与秩的计数、由完整解反推矩阵、真伪判断、乘积的零空间，以及行空间与零空间的交集。
- 14正交向量与正交子空间中 / EN点积为零是正交的判据；行空间与零空间、列空间与左零空间分别互相垂直，并互为正交补；这直接引出最小二乘方程 AᵀA x̂ = Aᵀb。
- 15投影到子空间中 / EN投影的几何核心是误差向量垂直于目标子空间；沿这个条件推出 x̂ = (AᵀA)⁻¹Aᵀb 与投影矩阵 P = A(AᵀA)⁻¹Aᵀ，并用一条直线拟合收尾。
- 16投影矩阵与最小二乘中 / EN把投影矩阵算到底：用三个点求最佳直线，得到 C=2/3、D=1/2；并从几何与代数两侧证明 AᵀA 在列无关时可逆。
- 17正交矩阵与 Gram-Schmidt中 / EN正交单位列让 QᵀQ=I，投影与最小二乘随之退化为点积；Gram-Schmidt 把任意无关列变成正交单位列，并给出 A=QR 分解。
- 18行列式的性质：用三条公理推出整个理论中 / EN从 det I = 1、交换两行变号、逐行线性这三条性质出发，推出零行、三角阵、消元、乘积与转置等全部性质。
- 19行列式的显式公式：大公式与代数余子式中 / EN用置换把行列式写成 n! 项之和，再用代数余子式把它降阶；最后用三对角矩阵演示递推与周期 6 的规律。
- 20行列式的三个应用：逆矩阵、Cramer 法则与体积中 / EN用代数余子式写出 A⁻¹ 的显式公式，由此得到 Cramer 法则；再把行列式解释为平行体体积与三角形面积。
- 21特征值与特征向量：矩阵作用下方向不变的向量中 / EN从投影、置换、旋转与三角矩阵四类例子出发，用 det(A−λI)=0 求特征值，并说明实特征值、复特征值与特征向量短缺三种可能。
- 22对角化与矩阵的幂：把演化拆成互不干扰的方向中 / ENA = SΛS⁻¹ 让矩阵的幂变成特征值的幂；由此判断稳定性，并用差分方程与 Fibonacci 数列演示增长率的来源。
- 23微分方程与矩阵指数 e^{At}中 / ENdu/dt = Au 的解是特征向量乘指数；用 SΛS⁻¹ 把系统解耦，得到矩阵指数，并由特征值实部的符号判断稳定、稳态与发散。
- 24Markov 矩阵与傅里叶级数：特征值的两个应用中 / EN列和为 1 的非负矩阵必有特征值 1，其正特征向量给出稳态；把同样的「正交基展开」推广到函数空间，就得到傅里叶系数。
- 24第二次测验复习：按题型串起正交、行列式与特征值中 / EN用七类典型题复习：投影矩阵、投影型差分方程、最小二乘、Gram-Schmidt、特征值性质、三对角递推，以及矩阵族的可逆性与投影。
- 25对称矩阵与正定性：谱定理和三个等价判据中 / EN对称矩阵的特征值必为实数、特征向量可正交，因此 A = QΛQᵀ；正定矩阵进一步要求特征值、主元、全部顺序主子式都为正。
- 26复矩阵与快速傅里叶变换：从 Hermitian 到 FFT中 / EN复数内积要共轭，对称推广为 Hermitian，正交推广为酉；傅里叶矩阵的列正交，且能递归分解，把 n² 次乘法降到 (n/2)log₂n。
- 27正定矩阵与极小值：四个判据与一个碗中 / EN正定矩阵把主元、行列式、特征值与二次型串在一起；它的几何意义是碗形曲面，分析意义是多元函数的严格极小点。
- 28相似矩阵与 Jordan 形：同一特征值下的不同家族中 / EN相似矩阵共享全部特征值，但不一定共享特征向量；重特征值会把矩阵分成多个相似类，Jordan 形为每一类选出最接近对角的标准代表。
- 29奇异值分解：给四个子空间同时选对基中 / EN任意矩阵都能分解为 A = UΣVᵀ；右奇异向量来自 AᵀA，左奇异向量来自 AAᵀ，奇异值是特征值的平方根，本质是同时为正交的输入基与输出基。
- 30线性变换与它的矩阵：先有变换，后有坐标中 / EN线性变换是无坐标的映射，保持加法与数乘；选定输入基与输出基后，变换才写成矩阵，矩阵的第 j 列就是 T(v_j) 在输出基下的坐标。
- 31换基与图像压缩：好基的三个标准中 / EN换基是求解 P = Wc；好基要快、能压缩、最好正交。JPEG 用小块傅里叶基，小波基是它的竞争者；同一个变换在不同基下的矩阵互为相似。
- 32第三次测验复习：按题型整理的特征值专题中 / EN把第六章的内容压成四类题型：微分方程与反对称矩阵、由谱反推矩阵性质、SVD 的正用与反用、对称正交矩阵；每类给出可复用的判断顺序。
- 33左逆、右逆与伪逆：按秩分类的四种「求逆」中 / EN逆是否存在取决于 m、n、r 的关系：满秩方阵有双侧逆，满列秩有左逆，满行秩有右逆，一般情形只能用 SVD 构造伪逆，它在行空间与列空间之间是真正的逆。
- 34期末总复习：用六道旧题串起整门课中 / EN从秩与可解性、四个子空间、矩阵乘法、正交投影、Markov 过程到最小二乘，每道题对应一条主线，答案背后是同一张四子空间图。