← 返回《Python 数据分析实战》
📑 查看全课大纲(第 31 / 101 节)
  1. 1.数据分析基本概念
  2. 2.学习数据分析的一般路线
  3. 3.数据分析的流程
  4. 4.数据类型
  5. 5.环境部署(1)
  6. 6.环境部署(2)
  7. 7.课程介绍
  8. 8.TXT文件操作
  9. 9.JSON文件操作
  10. 10.CSV文件操作
  11. 11.Excel文件操作
  12. 12.数据库及SQL常用语法
  13. 13.数据库基本操作
  14. 14.数据库多表连接
  15. 15.实战:欧洲职业足球数据库分析
  16. 16.爬虫简介
  17. 17.URL管理模块
  18. 18.网页下载模块
  19. 19.网页解析模块(1)
  20. 20.网页解析模块(2)
  21. 21.Scrapy简介
  22. 22.Scrapy使用步骤(1)
  23. 23.Scrapy使用步骤(2)
  24. 24.Scrapy使用步骤(3)
  25. 25.Scrapy使用步骤(4)
  26. 26.实战:获取国内城市空气质量指数数据
  27. 27.NumPy和SciPy介绍
  28. 28.多维数组
  29. 29.多维数组操作
  30. 30.NumPy的常用方法
  31. 31.向量化介绍
  32. 32.向量化及通用函数
  33. 33.实战:2016美国大选分析
  34. 34.数据结构-Series
  35. 35.数据结构-DataFrame
  36. 36.数据结构-Index
  37. 37.Series的索引操作
  38. 38.DataFrame的索引操作
  39. 39.索引操作总结
  40. 40.运算与对齐
  41. 41.函数应用操作(1) -- map
  42. 42.函数应用操作 (2) -- apply applymap
  43. 43.文件读写操作
  44. 44.排序操作
  45. 45.数据清洗--处理缺失数据
  46. 46.数据清洗--处理重复数据
  47. 47.数据清洗--替换数据
  48. 48.常用统计方法(1) -- describe quantile
  49. 49.常用统计方法(2) -- sum mean median count
  50. 50.常用统计方法(3) -- max min idxmax idxmin
  51. 51.常用统计方法(4) -- mad var std cumsum
  52. 52.实战:全球食品数据分析
  53. 53.层级索引
  54. 54.分组与聚合介绍
  55. 55.分组操作(1) -- GroupBy对象及常用聚合操作
  56. 56.分组操作(2) -- 自定义分组及聚合操作
  57. 57.透视表介绍
  58. 58.透视表操作
  59. 59.数据规整(1) -- 数据合并concat
  60. 60.数据规整(2) -- 数据连接merge
  61. 61.数据重构(3) -- 数据重构stack unstack
  62. 62.实战:互联网电影资料库分析
  63. 63.探索性数据分析EDA介绍
  64. 64.EDA的目的
  65. 65.EDA常用工具
  66. 66.Matplotlib绘图基本介绍
  67. 67.Matplotlib画布
  68. 68.散点图和柱状图的绘制
  69. 69.直方图的绘制
  70. 70.矩阵绘图
  71. 71.子图的使用
  72. 72.Matplotlib颜色、标记、线型
  73. 73.Matplotlib坐标刻度、标签、图例、标题
  74. 74.Seaborn介绍
  75. 75.数据集分布可视化(1) -- 单变量分布、双变量分布
  76. 76.数据集分布可视化(2) -- 变量关系可视化
  77. 77.类别数据可视化 -- 类别散布图、类别内数据分布、类别内统计图
  78. 78.交互式数据可视化工具Bokeh介绍
  79. 79.Bokeh绘制散点图、柱状图、盒子图、弦图
  80. 80.Bokeh绘制常用图形元素
  81. 81.D绘图 -- mplot3d
  82. 82.D曲线可视化
  83. 83.D散点图可视化
  84. 84.D柱状图可视化
  85. 85.Pandas绘图
  86. 86.实战:Lending Club借贷数据探索性分析及可视化
  87. 87.机器学习介绍及应用场景
  88. 88.机器学习建模介绍 (1) -- 分类
  89. 89.机器学习建模介绍 (2) -- 回归
  90. 90.机器学习建模介绍 (3) -- 聚类
  91. 91.机器学习分类
  92. 92.机器学习工具scikit-learn
  93. 93.使用scikit-learn的流程
  94. 94.数据集准备及划分
  95. 95.模型选择
  96. 96.数据预处理及特征工程
  97. 97.过拟合与欠拟合
  98. 98.模型调参介绍
  99. 99.模型调参方法
  100. 100.模型测试及评价
  101. 101.实战:通过移动设备行为数据预测性别和年龄

向量化介绍

约 8 分钟

📺 正在播放小象官方高清录播(支持倍速与清晰度调节)

矢量化计算哲学:向量化加速原理与广播机制(Broadcasting)精讲

小象实战讲义 · Python数据分析实战

在编写 Python 代码时,传统的编程习惯通常是使用 for 循环逐个遍历列表中的元素并执行计算。然而,在处理数十万乃至数亿级大规模数据时,Python 解释器的循环开销、动态类型检查与对象寻址会导致代码运行极其缓慢。NumPy 带来了一种颠覆性的编程范式——向量化(Vectorization)。向量化让开发者能够“一次性”对整个多维数组进行批量数学运算,彻底告别慢速的显式循环。配合强大而优雅的广播机制(Broadcasting),NumPy 更能自动处理不同形状数组之间的代数运算。本节我们将系统剖析向量化加速的底层原理与广播对齐法则。

💡 核心导读

  • 向量化计算的本质精髓
    • 代码层面:将标量循环抽象为整体数组表达式(简洁紧凑、可读性极高);
    • 机器层面:将循环推移至底层高度优化的 C 语言内核中,充分激活 CPU 的 SIMD(单指令多数据)硬件向量加速。
  • 等形状数组的逐元素运算(Element-wise Operations):加减乘除与幂运算。
  • 广播机制(Broadcasting)的两大黄金法则
    • 法则一:从后向前(从右往左)逐个对齐各数组的维度形状;
    • 法则二:若两个维度相等,或者其中一个维度的长度为 1,则这两个维度是兼容可广播的。
  • 多维广播典型拓扑演练:标量与矩阵、一维行向量与二维矩阵、列向量与行向量外积广播。

1. 向量化运算与广播机制几何模型

当两个参与算术运算的多维数组形状不完全相同时,NumPy 会自动在长度为 1 的轴上进行“虚拟复制拉伸”,使其形状匹配:

┌─────────────────────────────────────────────────────────────┐
│                 NumPy 广播对齐机制 (Broadcasting)            │
├─────────────────────────────────────────────────────────────┤
│ 1. 矩阵 (3 行 3 列)  +   行向量 (1 行 3 列)                 │
│    [ [ 1,  2,  3 ],        [ 10, 20, 30 ]                   │
│      [ 4,  5,  6 ],   +                                     │
│      [ 7,  8,  9 ] ]                                        │
│                          ║ 自动广播拉伸为 (3 行 3 列)       │
│                          ▼                                  │
│    [ [ 1,  2,  3 ],      [ [ 10, 20, 30 ],                  │
│      [ 4,  5,  6 ],   +    [ 10, 20, 30 ],                  │
│      [ 7,  8,  9 ] ]       [ 10, 20, 30 ] ]                 │
│                          ║ 逐元素相加                       │
│                          ▼                                  │
│                 [ [ 11, 22, 33 ],                           │
│                   [ 14, 25, 36 ],                           │
│                   [ 17, 28, 39 ] ]                          │
└─────────────────────────────────────────────────────────────┘

注意:广播操作是完全基于内存步长(Strides)的“虚拟计算”,并不会真的在内存中复制数据,因此几乎不产生额外内存开销!


2. Python 代码实战:向量化运算与多维广播

# 示例 1:等形状数组的向量化逐元素四则运算

import numpy as np

arr_a = np.array([10, 20, 30, 40], dtype=np.float64)
arr_b = np.array([2,  4,  5,  8],  dtype=np.float64)

print("=== 1. 相同形状数组的向量化运算 ===")
print("数组 A:", arr_a)
print("数组 B:", arr_b)

# 向量化加法、减法、乘法、除法与幂运算 (无任何显式 for 循环)
print("\n• A + B (逐元素相加):", arr_a + arr_b)
print("• A - B (逐元素相减):", arr_a - arr_b)
print("• A * B (逐元素相乘):", arr_a * arr_b)
print("• A / B (逐元素相除):", arr_a / arr_b)
print("• A ** 2 (向量平方):", arr_a ** 2)

# 标量广播 (整型标量自动应用到所有元素)
print("• A * 1.5 (标量乘法):", arr_a * 1.5)

接下来,我们演示不同形状数组之间的多维广播实战(包括列标准化业务场景):

# 示例 2:多维数组广播机制与数据标准化实战

# 1. 二维矩阵与一维行向量广播 (3x3 矩阵 + 1x3 向量)
mat_3x3 = np.array([
    [1, 2, 3],
    [4, 5, 6],
    [7, 8, 9]
])
row_vec = np.array([10, 20, 30])  # 形状为 (3,)

broadcast_res = mat_3x3 + row_vec
print("\n=== 2. 矩阵与行向量广播相加 ===")
print("原始矩阵 (3, 3):\n", mat_3x3)
print("行向量 (3,):\n", row_vec)
print("广播相加结果 (3, 3):\n", broadcast_res)

# 2. 列向量与行向量广播 (3x1 矩阵 + 1x4 矩阵 -> 3x4 矩阵)
col_vec = np.array([[10], [20], [30]])  # 形状 (3, 1)
row_vec_4 = np.array([1, 2, 3, 4])       # 形状 (4,)

outer_product_grid = col_vec + row_vec_4
print("\n=== 3. 列向量 (3,1) + 行向量 (4,) 广播生成网格矩阵 (3,4) ===")
print(outer_product_grid)

# 3. 典型业务应用:特征矩阵的列均值归一化 (Zero-Center 标准化)
features = np.array([
    [170, 65, 25],
    [180, 80, 30],
    [160, 50, 20]
], dtype=np.float64)

# 计算各列特征的均值 (形状为 3,)
mean_per_column = np.mean(features, axis=0)

# 利用广播机制一句话实现去中心化:每一列元素减去该列自身的均值
centered_features = features - mean_per_column

print("\n=== 4. 数据分析实战:利用广播一句话实现特征矩阵去中心化 ===")
print("原始特征矩阵:\n", features)
print("各列均值:", mean_per_column)
print("去中心化后矩阵 (各列均值变为 0):\n", np.round(centered_features, 2))

📝 动手练一练

  1. 维度匹配分析题:判断以下两个形状的数组能否进行广播运算?如果能,最终生成的数组形状是什么?

    • 数组 A 形状:(8, 1, 6, 1)
    • 数组 B 形状:(7, 1, 5)
    👉 点击查看参考答案

    参考答案可以广播,最终生成的数组形状为 (8, 7, 6, 5)推导过程(从右向左逐轴对齐)

    • 轴 3(末轴):A 的长度为 1,B 为 5 $\rightarrow$ 兼容,广播为 5;
    • 轴 2:A 为 6,B 为 1 $\rightarrow$ 兼容,广播为 6;
    • 轴 1:A 为 1,B 为 7 $\rightarrow$ 兼容,广播为 7;
    • 轴 0:A 为 8,B 缺失(视为 1) $\rightarrow$ 兼容,广播为 8。
  2. 编程练习:给定一个 4 行 3 列的数组 data = np.random.randint(10, 100, size=(4, 3)),请利用广播机制,将每一行的元素都除以该行的最大值,使得每行最大值归一化为 1.0。

    👉 点击查看参考答案

    参考答案

    import numpy as np
    
    data = np.array([
        [10, 20, 50],
        [30, 90, 60],
        [80, 40, 20],
        [50, 50, 100]
    ], dtype=np.float64)
    
    # 计算每行最大值,使用 keepdims=True 保持形状为 (4, 1) 以便广播
    row_max = np.max(data, axis=1, keepdims=True)
    norm_data = data / row_max
    
    print("=== 行最大值归一化结果 ===")
    print(np.round(norm_data, 2))

本章小结

在本节中,我们攻克了 NumPy 性能优化的核心灵魂——向量化与广播机制:

  • 深刻理解了向量化消灭 Python 循环、激活底硬件 SIMD 加速的本质;
  • 熟练掌握了同形状数组的逐元素算术运算;
  • 牢记了从右向左对齐维度的两大广播法则,并能熟练运用于特征去中心化与矩阵乘网格构造中。

📋 行动清单

  • 尝试手算并用代码验证各种奇特形状数组的广播兼容性。
  • 做好准备,进入下一小节学习《向量化通用函数 ufunc 与数学映射》!

—— 小象教研组

配套学习资源与课件
  • 本节课件:向量化介绍(PDF · 289KB)
    下载
  • 全套课件打包(第1-5章)(ZIP · 12.8MB)
    下载
  • 全套课件打包(第6-8章)(ZIP · 15MB)
    下载
  • 实战数据集:AppleStore 应用商城分析(ZIP · 329KB)
    下载
  • 实战数据集:女性服装电商分析(ZIP · 2.8MB)
    下载
  • Python 数据分析环境搭建指南(PDF · 2MB)
    下载
  • Scrapy 安装教程(PDF · 12.7MB)
    下载
  • 附加实战项目:AppleStore 应用商城数据分析(ZIP · 0.3MB · ipynb + CSV 数据)
    下载
  • 附加实战项目:银行电话营销数据分析(ZIP · 0.4MB · ipynb + CSV 数据)
    下载
  • 附加实战项目:女性服装电商评论数据分析(ZIP · 2.7MB · ipynb + CSV 数据)
    下载
  • 附加实战项目:美国化学学会杂志数据分析(ZIP · 34.2MB · ipynb + SQLite 数据库)
    下载
🎁 免费学习资源

领取《小象 11GB VIP 课件资料包与大厂真题手册》

包含全套实战 Jupyter 源码、清洗后数据集、大厂高频面试真题与专属学员答疑交流群。

  • 完整 Python / 数据分析 Jupyter 实战源码
  • 大厂真实业务数据集与练习题
  • 微信扫码添加课程顾问,免费获取网盘下载链接
微信二维码:扫码添加课程顾问微信扫码添加顾问