← 返回《人工智能数学基础》
📑 查看全课大纲(第 70 / 93 节)
  1. 1.概论和集合的定义
  2. 2.逼疯康托的实数集理论
  3. 3.常用不等式与映射
  4. 4.函数及特殊函数
  5. 5.序列极限的定义
  6. 6.序列极限的性质与夹逼定理
  7. 7.重要极限
  8. 8.无穷小量,无穷大量和一组重要的阶的比较关系
  9. 9.聚点原理
  10. 10.函数极限及其性质
  11. 11.重要极限与等价无穷小
  12. 12.连续函数
  13. 13.导数的概念(那些年,扛起牛顿的胡克)
  14. 14.定义法求导
  15. 15.函数四则运算的导数与反函数求导法则
  16. 16.复合函数,隐函数,参数式求导
  17. 17.不定式求导之“洛必达与伯努利的师生情”
  18. 18.一阶微分
  19. 19.高阶导数
  20. 20.高阶微分
  21. 21.罗尔中值定理与拉格朗日中值定理
  22. 22.柯西空降科学院遭排挤
  23. 23.泰勒公式与泰勒的克妻属性
  24. 24.利用泰勒展开唯一性定理计算泰勒展开
  25. 25.泰勒公式的余项估计
  26. 26.极值问题与导数
  27. 27.函数凹凸性
  28. 28.无卵用的渐近线与函数作图
  29. 29.不定积分的定义
  30. 30.第一换元法
  31. 31.第二换元法
  32. 32.分部积分法
  33. 33.有理式积分
  34. 34.三角替换
  35. 35.定积分的概念
  36. 36.定积分的性质与积分中值定理
  37. 37.变上限定积分
  38. 38.微积分基本定理之“高斯教你如何优雅地装逼”
  39. 39.定积分的换元法
  40. 40.奇偶函数与周期函数的定积分
  41. 41.曲线求长与不可求长曲线(海岸线居然算不出长度?)
  42. 42.旋转体体积
  43. 43.旋转体侧面积
  44. 44.极坐标下图形的面积(数学系常用表白曲线)
  45. 45.欧式空间
  46. 46.点列极限,开集与闭集
  47. 47.多元函数的定义
  48. 48.多元函数的极限
  49. 49.多元连续函数
  50. 50.一阶偏导数
  51. 51.高阶偏导数
  52. 52.全微分
  53. 53.方向导数与梯度
  54. 54.链式法则
  55. 55.一阶全微分形式的不变性与高阶微分
  56. 56.多元函数的泰勒公式
  57. 57.隐函数存在定理与逆映射存在定理
  58. 58.多元函数的极值
  59. 59.矩阵基础知识
  60. 60.行列式的定义与特殊矩阵的行列式
  61. 61.行列式的性质
  62. 62.行列式按k行展开
  63. 63.线性方程组初步与高斯消元法
  64. 64.齐次线性方程组与Cramer法则
  65. 65.线性空间
  66. 66.线性相关与线性无关
  67. 67.向量组的秩
  68. 68.矩阵的秩与线性方程组有解的充要条件
  69. 69.齐次线性方程组的解集结构
  70. 70.非齐次线性方程组解集结构
  71. 71.基与维数
  72. 72.矩阵的乘法
  73. 73.特殊矩阵
  74. 74.矩阵乘积的秩与行列式
  75. 75.矩阵的逆
  76. 76.正交矩阵
  77. 77.矩阵对角化与特征值特征向量
  78. 78.实对称矩阵对角化
  79. 79.二次型与正定矩阵
  80. 80.LU分解
  81. 81.Cholesky分解
  82. 82.SVD分解
  83. 83.线搜索
  84. 84.步长
  85. 85.最速下降法和牛顿法
  86. 86.共轭梯度法
  87. 87.拟牛顿法
  88. 88.无约束优化
  89. 89.若干知识点补充(一)
  90. 90.若干知识点补充(二)
  91. 91.凸优化问题
  92. 92.对偶问题(一)
  93. 93.对偶问题(二)

非齐次线性方程组解集结构

约 10 分钟

📺 正在播放小象官方高清录播(支持倍速与清晰度调节)

非齐次线性方程组解集结构

小象实战讲义 · 人工智能数学基础

在上一节中,我们深入探讨了齐次线性方程组 Ax=0A\mathbf{x} = \mathbf{0} 的解空间结构,并掌握了如何求解其基础解系。本节我们将目光转向更一般的非齐次线性方程组 Ax=bA\mathbf{x} = \mathbf{b}。我们将揭示其解集与对应齐次方程组解空间之间的深刻联系——一种“平移”关系,并最终给出求解非齐次方程组通解的完整方法。掌握这一结构,是理解线性方程组理论、乃至后续学习矩阵秩与线性空间理论的关键。

💡 核心导读

本节你将掌握:

  1. 平移关系:非齐次方程组的两个解之差,是其导出组(对应齐次方程组)的解;一个特解加上导出组的解,仍是非齐次方程组的解。
  2. 解集结构定理:非齐次方程组 Ax=bA\mathbf{x} = \mathbf{b} 的解集 UU,等于它的一个特解 γ0\boldsymbol{\gamma}_0 加上其导出组 Ax=0A\mathbf{x} = \mathbf{0} 的解空间 WW,即 U=γ0+WU = \boldsymbol{\gamma}_0 + W
  3. 求解通解的三步法:通过高斯消元法(初等行变换)同时求得特解与导出组的基础解系,最终组合得到通解。
  4. 几何直观:解空间 WW 是一个通过原点的线性空间(子空间),而非齐次方程组的解集 UU 则是该空间整体平移一个特解向量 γ0\boldsymbol{\gamma}_0 后得到的“仿射空间”。

从齐次到非齐次:解的平移关系

考虑数域 KK 上的线性方程组: Ax=b(方程组1)A\mathbf{x} = \mathbf{b} \quad \text{(方程组1)} 其中 AAm×nm \times n 矩阵,bKm\mathbf{b} \in K^mb0\mathbf{b} \neq \mathbf{0}。我们称 Ax=bA\mathbf{x} = \mathbf{b}非齐次线性方程组

与之对应,我们称方程组 Ax=0(方程组2)A\mathbf{x} = \mathbf{0} \quad \text{(方程组2)} 为方程组1的导出组(或对应的齐次线性方程组)。

设方程组1的解集为 UU,方程组2的解空间为 WW。它们之间存在两个简单而重要的性质:

性质1:γ,δU\boldsymbol{\gamma}, \boldsymbol{\delta} \in U 是非齐次方程组的两个解,则它们的差 γδW\boldsymbol{\gamma} - \boldsymbol{\delta} \in W,即是对应齐次方程组的解。 证明:因为 Aγ=bA\boldsymbol{\gamma} = \mathbf{b}Aδ=bA\boldsymbol{\delta} = \mathbf{b},两式相减得 A(γδ)=bb=0A(\boldsymbol{\gamma} - \boldsymbol{\delta}) = \mathbf{b} - \mathbf{b} = \mathbf{0},故 γδ\boldsymbol{\gamma} - \boldsymbol{\delta} 满足 Ax=0A\mathbf{x} = \mathbf{0}

性质2:γ0U\boldsymbol{\gamma}_0 \in U 是非齐次方程组的一个解(称为特解),ηW\boldsymbol{\eta} \in W 是导出组的任意一个解,则 γ0+ηU\boldsymbol{\gamma}_0 + \boldsymbol{\eta} \in U,即它们的和仍是非齐次方程组的解。 证明A(γ0+η)=Aγ0+Aη=b+0=bA(\boldsymbol{\gamma}_0 + \boldsymbol{\eta}) = A\boldsymbol{\gamma}_0 + A\boldsymbol{\eta} = \mathbf{b} + \mathbf{0} = \mathbf{b}

这两个性质揭示了非齐次方程组解集与齐次方程组解空间之间的一种“平移”关系:从任意一个特解出发,加上导出组解空间中的任意向量,就能得到非齐次方程组的另一个解。

解集结构定理

基于上述平移关系,我们可以精确描述非齐次线性方程组解集的结构。

定理(非齐次线性方程组解集结构): 设非齐次线性方程组 Ax=bA\mathbf{x} = \mathbf{b} 有解,γ0\boldsymbol{\gamma}_0 是它的一个特解,WW 是其导出组 Ax=0A\mathbf{x} = \mathbf{0} 的解空间。则 Ax=bA\mathbf{x} = \mathbf{b} 的解集 UU 为: U=γ0+W={γ0+ηηW}.U = \boldsymbol{\gamma}_0 + W = { \boldsymbol{\gamma}_0 + \boldsymbol{\eta} \mid \boldsymbol{\eta} \in W }.

证明: 我们证明两个集合 UUγ0+W\boldsymbol{\gamma}_0 + W 相等。

  1. 证明 γ0+WU\boldsymbol{\gamma}_0 + W \subseteq U: 任取 γ0+ηγ0+W\boldsymbol{\gamma}_0 + \boldsymbol{\eta} \in \boldsymbol{\gamma}_0 + W,其中 ηW\boldsymbol{\eta} \in W。根据上述第二个性质,γ0+η\boldsymbol{\gamma}_0 + \boldsymbol{\eta}Ax=bA\mathbf{x} = \mathbf{b} 的解,故 γ0+ηU\boldsymbol{\gamma}_0 + \boldsymbol{\eta} \in U。因此 γ0+W\boldsymbol{\gamma}_0 + WUU 的子集。

  2. 证明 Uγ0+WU \subseteq \boldsymbol{\gamma}_0 + W: 任取 γU\boldsymbol{\gamma} \in U。考虑向量 γγ0\boldsymbol{\gamma} - \boldsymbol{\gamma}_0。根据上述第一个性质,γγ0W\boldsymbol{\gamma} - \boldsymbol{\gamma}_0 \in W。因此,存在 η=γγ0W\boldsymbol{\eta} = \boldsymbol{\gamma} - \boldsymbol{\gamma}_0 \in W,使得 γ=γ0+η\boldsymbol{\gamma} = \boldsymbol{\gamma}_0 + \boldsymbol{\eta}。这意味着 γγ0+W\boldsymbol{\gamma} \in \boldsymbol{\gamma}_0 + W。因此 UUγ0+W\boldsymbol{\gamma}_0 + W 的子集。

综上,U=γ0+WU = \boldsymbol{\gamma}_0 + W

几何意义:解空间 WW 是一个通过原点的线性子空间(直线、平面或更高维空间)。非齐次方程组的解集 UU 则是将这个子空间整体平移一个特解向量 γ0\boldsymbol{\gamma}_0 后得到的集合,它不再通过原点,我们称之为仿射空间

求解方法与示例

根据定理,求解非齐次线性方程组 Ax=bA\mathbf{x} = \mathbf{b} 的通解,可以归结为以下三步:

  1. 求特解 γ0\boldsymbol{\gamma}_0:对增广矩阵 (Ab)(A | \mathbf{b}) 进行初等行变换,化为行最简形,然后令所有自由未知量为 00,解出主未知量的值,即得到一个特解。
  2. 求导出组 Ax=0A\mathbf{x} = \mathbf{0} 的基础解系,从而得到其解空间 WW。这只需在第一步的行最简形矩阵中,忽略常数列 b\mathbf{b},直接对系数部分写出齐次方程的一般解并赋值得到基础解系。
  3. 写出通解:将特解与导出组的通解(基础解系的线性组合)相加。

示例(无解情形):求解非齐次线性方程组 {x1+2x2+3x3+4x4=5,2x1+3x2+4x3+5x4=1,3x1+4x2+5x3+6x4=2.\begin{cases} x_1 + 2x_2 + 3x_3 + 4x_4 = 5, \ 2x_1 + 3x_2 + 4x_3 + 5x_4 = 1, \ 3x_1 + 4x_2 + 5x_3 + 6x_4 = 2. \end{cases}

第一步:求特解 γ0\boldsymbol{\gamma}_0 写出增广矩阵并作初等行变换: (Ab)=(123452345134562)r33r1r22r1(1234501239024613)r32r2r2(123450123900005)r12r2, r3×15(1012130123900001)r1+13r3r29r3(101200123000001)\begin{aligned} (A|\mathbf{b}) &= \begin{pmatrix} 1 & 2 & 3 & 4 & 5 \ 2 & 3 & 4 & 5 & 1 \ 3 & 4 & 5 & 6 & 2 \end{pmatrix} \ &\xrightarrow[r_3-3r_1]{r_2-2r_1} \begin{pmatrix} 1 & 2 & 3 & 4 & 5 \ 0 & -1 & -2 & -3 & -9 \ 0 & -2 & -4 & -6 & -13 \end{pmatrix} \ &\xrightarrow[r_3-2r_2]{-r_2} \begin{pmatrix} 1 & 2 & 3 & 4 & 5 \ 0 & 1 & 2 & 3 & 9 \ 0 & 0 & 0 & 0 & 5 \end{pmatrix} \ &\xrightarrow{r_1-2r_2,\ r_3 \times \frac{1}{5}} \begin{pmatrix} 1 & 0 & -1 & -2 & -13 \ 0 & 1 & 2 & 3 & 9 \ 0 & 0 & 0 & 0 & 1 \end{pmatrix} \ &\xrightarrow[r_1+13r_3]{r_2-9r_3} \begin{pmatrix} 1 & 0 & -1 & -2 & 0 \ 0 & 1 & 2 & 3 & 0 \ 0 & 0 & 0 & 0 & 1 \end{pmatrix} \end{aligned} 最后一行对应矛盾方程 0=10=1。此时系数矩阵的秩 r(A)=2r(A) = 2,而增广矩阵的秩 r(Ab)=3r(A|\mathbf{b}) = 3,两者不等,故原方程组无解

import numpy as np

# 定义系数矩阵A和常数向量b
A = np.array([[1, 2, 3, 4],
              [2, 3, 4, 5],
              [3, 4, 5, 6]], dtype=float)
b = np.array([5, 1, 2], dtype=float)

# 构造增广矩阵
Ab = np.column_stack((A, b))
print("增广矩阵 (A|b):")
print(Ab)

# 进行初等行变换(手动步骤的numpy验证)
# 第一步:r2 = r2 - 2*r1, r3 = r3 - 3*r1
Ab[1] = Ab[1] - 2 * Ab[0]
Ab[2] = Ab[2] - 3 * Ab[0]
print("\n第一步消元后:")
print(Ab)

# 第二步:r2 = -r2
Ab[1] = -Ab[1]
print("\n第二步,r2取反后:")
print(Ab)

# 第三步:r3 = r3 - 2*r2
Ab[2] = Ab[2] - 2 * Ab[1]
print("\n第三步,r3 = r3 - 2*r2后:")
print(Ab)

# 检查秩
rank_A = np.linalg.matrix_rank(A)
rank_Ab = np.linalg.matrix_rank(Ab)
print(f"\n系数矩阵A的秩: {rank_A}")
print(f"增广矩阵(A|b)的秩: {rank_Ab}")

if rank_A == rank_Ab:
    print("方程组有解。")
    if rank_A < A.shape[1]:
        print("方程组有无穷多解。")
    else:
        print("方程组有唯一解。")
else:
    print("方程组无解。")

运行上述代码,我们发现系数矩阵 AA 的秩为 2,增广矩阵 (Ab)(A|\mathbf{b}) 的秩为 3,两者不等,故原方程组无解。这个例子正好演示了无解情形的判定方法。接下来再看一个有唯一解的例子。

示例(唯一解情形):求解非齐次线性方程组 {x1+2x2+3x3=2,2x1+3x2+4x3=3,3x1+4x2+6x3=5.\begin{cases} x_1 + 2x_2 + 3x_3 = 2, \ 2x_1 + 3x_2 + 4x_3 = 3, \ 3x_1 + 4x_2 + 6x_3 = 5. \end{cases}

第一步:求特解 γ0\boldsymbol{\gamma}_0 对增广矩阵 (Ab)(A|\mathbf{b}) 进行初等行变换: (Ab)=(123223433465)r33r1r22r1(123201210231)r2(123201210231)r3+2r2r12r2(101001210011)r22r3r1+r3(100101010011)\begin{aligned} (A|\mathbf{b}) &= \begin{pmatrix} 1 & 2 & 3 & 2 \ 2 & 3 & 4 & 3 \ 3 & 4 & 6 & 5 \end{pmatrix} \ &\xrightarrow[r_3-3r_1]{r_2-2r_1} \begin{pmatrix} 1 & 2 & 3 & 2 \ 0 & -1 & -2 & -1 \ 0 & -2 & -3 & -1 \end{pmatrix} \ &\xrightarrow{-r_2} \begin{pmatrix} 1 & 2 & 3 & 2 \ 0 & 1 & 2 & 1 \ 0 & -2 & -3 & -1 \end{pmatrix} \ &\xrightarrow[r_3+2r_2]{r_1-2r_2} \begin{pmatrix} 1 & 0 & -1 & 0 \ 0 & 1 & 2 & 1 \ 0 & 0 & 1 & 1 \end{pmatrix} \ &\xrightarrow[r_2-2r_3]{r_1+r_3} \begin{pmatrix} 1 & 0 & 0 & 1 \ 0 & 1 & 0 & -1 \ 0 & 0 & 1 & 1 \end{pmatrix} \end{aligned} 得到行最简形。对应方程组为: {x1=1,x2=1,x3=1.\begin{cases} x_1 = 1, \ x_2 = -1, \ x_3 = 1. \end{cases} 这里系数矩阵满秩(秩等于未知量个数 3),方程组有唯一解 γ0=(1,1,1)T\boldsymbol{\gamma}_0 = (1, -1, 1)^T,代入原方程组三个等式均成立。唯一解情形没有自由未知量,不存在通解结构问题。为了完整演示”特解 + 齐次通解”的结构,最后看一个有无穷多解的例子。

示例(无穷多解情形):求解 {x1+2x2x3=1,2x1+3x2+x3=5.\begin{cases} x_1 + 2x_2 - x_3 = 1, \ 2x_1 + 3x_2 + x_3 = 5. \end{cases}

第一步:求特解 γ0\boldsymbol{\gamma}_0 (Ab)=(12112315)r22r1(12110133)r2(12110133)r12r2(10570133)(A|\mathbf{b}) = \begin{pmatrix} 1 & 2 & -1 & 1 \ 2 & 3 & 1 & 5 \end{pmatrix} \xrightarrow{r_2-2r_1} \begin{pmatrix} 1 & 2 & -1 & 1 \ 0 & -1 & 3 & 3 \end{pmatrix} \xrightarrow{-r_2} \begin{pmatrix} 1 & 2 & -1 & 1 \ 0 & 1 & -3 & -3 \end{pmatrix} \xrightarrow{r_1-2r_2} \begin{pmatrix} 1 & 0 & 5 & 7 \ 0 & 1 & -3 & -3 \end{pmatrix} 得到行最简形。对应方程: {x1+5x3=7,x23x3=3.\begin{cases} x_1 + 5x_3 = 7, \ x_2 - 3x_3 = -3. \end{cases} 令自由未知量 x3=0x_3 = 0,则得特解 γ0=(7,3,0)T\boldsymbol{\gamma}_0 = (7, -3, 0)^T

第二步:求导出组的基础解系。 导出组为 Ax=0A\mathbf{x} = \mathbf{0},其系数矩阵的行最简形即上面矩阵去掉常数列: (105013)\begin{pmatrix} 1 & 0 & 5 \ 0 & 1 & -3 \end{pmatrix} 对应齐次方程: {x1+5x3=0,x23x3=0.\begin{cases} x_1 + 5x_3 = 0, \ x_2 - 3x_3 = 0. \end{cases} 令自由未知量 x3=1x_3 = 1,解得 x1=5,x2=3x_1 = -5, x_2 = 3。故基础解系包含一个向量:ξ1=(5,3,1)T\boldsymbol{\xi}_1 = (-5, 3, 1)^T。导出组的解空间 W={k1ξ1k1K}W = { k_1 \boldsymbol{\xi}_1 \mid k_1 \in K }

第三步:写出通解。 原非齐次方程组的通解为: x=γ0+k1ξ1=(730)+k1(531),k1K.\mathbf{x} = \boldsymbol{\gamma}_0 + k_1 \boldsymbol{\xi}_1 = \begin{pmatrix} 7 \ -3 \ 0 \end{pmatrix} + k_1 \begin{pmatrix} -5 \ 3 \ 1 \end{pmatrix}, \quad k_1 \in K.

📝 动手练一练

  1. 求解非齐次方程组: 已知非齐次方程组 Ax=bA\mathbf{x} = \mathbf{b} 的增广矩阵经行变换后为: (102301110000)\begin{pmatrix} 1 & 0 & 2 & 3 \ 0 & 1 & -1 & 1 \ 0 & 0 & 0 & 0 \end{pmatrix} 请写出该非齐次方程组的通解。(提示:先求特解,再对系数部分求导出组的基础解系,注意 nrn - r 的值。)

    参考答案: 从增广矩阵可得:x1=32x3, x2=1+x3x_1 = 3 - 2x_3,\ x_2 = 1 + x_3。令自由未知量 x3=0x_3 = 0,得特解 γ0=(3,1,0)T\boldsymbol{\gamma}_0 = (3, 1, 0)^T。 导出组满足 x1=2x3, x2=x3x_1 = -2x_3,\ x_2 = x_3。这里未知量个数 n=3n = 3,系数矩阵秩 r=2r = 2(非零行个数),故基础解系含 nr=1n - r = 1 个向量。令 x3=1x_3 = 1,得基础解系 ξ1=(2,1,1)T\boldsymbol{\xi}_1 = (-2, 1, 1)^T(验证:Aξ1=(2+2, 11)T=0A\boldsymbol{\xi}_1 = (-2 + 2,\ 1 - 1)^T = \mathbf{0})。 通解为:x=(310)+k1(211),k1K\mathbf{x} = \begin{pmatrix} 3 \ 1 \ 0 \end{pmatrix} + k_1 \begin{pmatrix} -2 \ 1 \ 1 \end{pmatrix}, \quad k_1 \in K

  2. 验证解的结构:对于上面的示例通解,编写一段 Python 代码,随机生成多组 k1k_1 的值,计算对应的 x\mathbf{x},并验证它们是否都满足原方程组 Ax=bA\mathbf{x} = \mathbf{b}(你需要从增广矩阵还原出 AAb\mathbf{b})。

    import numpy as np
    # 从增广矩阵还原 A 和 b
    A = np.array([[1, 0, 2],
                  [0, 1, -1]])
    b = np.array([3, 1])
    # 特解和基础解系
    gamma0 = np.array([3, 1, 0])
    xi1 = np.array([-2, 1, 1])
    # 随机生成5组系数验证
    np.random.seed(42)
    for _ in range(5):
        k1 = np.random.randn() # 生成一个随机数
        x = gamma0 + k1*xi1
        residual = A @ x - b # 计算 Ax - b
        print(f"k1={k1:.2f}, x={x}, A*x-b={residual}")
        # 验证残差是否接近零向量(考虑浮点误差)
        assert np.allclose(residual, np.zeros_like(b)), "解不满足方程!"
    print("所有随机生成的解均验证通过。")

本章小结

本节我们建立了非齐次线性方程组解集的完整理论框架:

要点回顾

  1. 核心关系:非齐次方程组的两个解之差是导出组的解;非齐次方程组的特解加导出组的解仍是非齐次方程组的解。
  2. 结构定理:若 Ax=bA\mathbf{x} = \mathbf{b} 有解,则其解集 UU 等于一个特解 γ0\boldsymbol{\gamma}_0 加上导出组解空间 WW 的平移,即 U=γ0+WU = \boldsymbol{\gamma}_0 + W。这解释了为何通解形式为“特解+齐次通解”。
  3. 求解通解三步法:化增广矩阵为行最简形 → 求特解 → 求导出组基础解系 → 组合得通解。

行动清单

  1. 理解平移:面对一个非齐次方程组,首先在几何上想象其解集是对应齐次解空间(过原点的平面/直线等)的一个平移。
  2. 规范求解:在解题时,严格按照“增广矩阵行变换 → 特解 → 基础解系 → 通解”的步骤书写,确保逻辑清晰。
  3. 代码验证:对于求出的通解,可以像练习中那样,用代码随机生成参数并验证解的正确性,这是检验计算和理解的有效手段。

— 小象教研组

配套学习资源与课件
  • 第10章讲义(含板书):线性代数(PDF · 15.5MB)
    下载
🎁 免费学习资源

领取《小象 11GB VIP 课件资料包与大厂真题手册》

包含全套实战 Jupyter 源码、清洗后数据集、大厂高频面试真题与专属学员答疑交流群。

  • 完整 Python / 数据分析 Jupyter 实战源码
  • 大厂真实业务数据集与练习题
  • 微信扫码添加课程顾问,免费获取网盘下载链接
微信二维码:扫码添加课程顾问微信扫码添加顾问