📑 查看全课大纲(第 31 / 101 节)
- 1.数据分析基本概念
- 2.学习数据分析的一般路线
- 3.数据分析的流程
- 4.数据类型
- 5.环境部署(1)
- 6.环境部署(2)
- 7.课程介绍
- 8.TXT文件操作
- 9.JSON文件操作
- 10.CSV文件操作
- 11.Excel文件操作
- 12.数据库及SQL常用语法
- 13.数据库基本操作
- 14.数据库多表连接
- 15.实战:欧洲职业足球数据库分析
- 16.爬虫简介
- 17.URL管理模块
- 18.网页下载模块
- 19.网页解析模块(1)
- 20.网页解析模块(2)
- 21.Scrapy简介
- 22.Scrapy使用步骤(1)
- 23.Scrapy使用步骤(2)
- 24.Scrapy使用步骤(3)
- 25.Scrapy使用步骤(4)
- 26.实战:获取国内城市空气质量指数数据
- 27.NumPy和SciPy介绍
- 28.多维数组
- 29.多维数组操作
- 30.NumPy的常用方法
- 31.向量化介绍
- 32.向量化及通用函数
- 33.实战:2016美国大选分析
- 34.数据结构-Series
- 35.数据结构-DataFrame
- 36.数据结构-Index
- 37.Series的索引操作
- 38.DataFrame的索引操作
- 39.索引操作总结
- 40.运算与对齐
- 41.函数应用操作(1) -- map
- 42.函数应用操作 (2) -- apply applymap
- 43.文件读写操作
- 44.排序操作
- 45.数据清洗--处理缺失数据
- 46.数据清洗--处理重复数据
- 47.数据清洗--替换数据
- 48.常用统计方法(1) -- describe quantile
- 49.常用统计方法(2) -- sum mean median count
- 50.常用统计方法(3) -- max min idxmax idxmin
- 51.常用统计方法(4) -- mad var std cumsum
- 52.实战:全球食品数据分析
- 53.层级索引
- 54.分组与聚合介绍
- 55.分组操作(1) -- GroupBy对象及常用聚合操作
- 56.分组操作(2) -- 自定义分组及聚合操作
- 57.透视表介绍
- 58.透视表操作
- 59.数据规整(1) -- 数据合并concat
- 60.数据规整(2) -- 数据连接merge
- 61.数据重构(3) -- 数据重构stack unstack
- 62.实战:互联网电影资料库分析
- 63.探索性数据分析EDA介绍
- 64.EDA的目的
- 65.EDA常用工具
- 66.Matplotlib绘图基本介绍
- 67.Matplotlib画布
- 68.散点图和柱状图的绘制
- 69.直方图的绘制
- 70.矩阵绘图
- 71.子图的使用
- 72.Matplotlib颜色、标记、线型
- 73.Matplotlib坐标刻度、标签、图例、标题
- 74.Seaborn介绍
- 75.数据集分布可视化(1) -- 单变量分布、双变量分布
- 76.数据集分布可视化(2) -- 变量关系可视化
- 77.类别数据可视化 -- 类别散布图、类别内数据分布、类别内统计图
- 78.交互式数据可视化工具Bokeh介绍
- 79.Bokeh绘制散点图、柱状图、盒子图、弦图
- 80.Bokeh绘制常用图形元素
- 81.D绘图 -- mplot3d
- 82.D曲线可视化
- 83.D散点图可视化
- 84.D柱状图可视化
- 85.Pandas绘图
- 86.实战:Lending Club借贷数据探索性分析及可视化
- 87.机器学习介绍及应用场景
- 88.机器学习建模介绍 (1) -- 分类
- 89.机器学习建模介绍 (2) -- 回归
- 90.机器学习建模介绍 (3) -- 聚类
- 91.机器学习分类
- 92.机器学习工具scikit-learn
- 93.使用scikit-learn的流程
- 94.数据集准备及划分
- 95.模型选择
- 96.数据预处理及特征工程
- 97.过拟合与欠拟合
- 98.模型调参介绍
- 99.模型调参方法
- 100.模型测试及评价
- 101.实战:通过移动设备行为数据预测性别和年龄
向量化介绍
约 8 分钟
矢量化计算哲学:向量化加速原理与广播机制(Broadcasting)精讲
小象实战讲义 · Python数据分析实战
在编写 Python 代码时,传统的编程习惯通常是使用 for 循环逐个遍历列表中的元素并执行计算。然而,在处理数十万乃至数亿级大规模数据时,Python 解释器的循环开销、动态类型检查与对象寻址会导致代码运行极其缓慢。NumPy 带来了一种颠覆性的编程范式——向量化(Vectorization)。向量化让开发者能够“一次性”对整个多维数组进行批量数学运算,彻底告别慢速的显式循环。配合强大而优雅的广播机制(Broadcasting),NumPy 更能自动处理不同形状数组之间的代数运算。本节我们将系统剖析向量化加速的底层原理与广播对齐法则。
💡 核心导读
- 向量化计算的本质精髓:
- 代码层面:将标量循环抽象为整体数组表达式(简洁紧凑、可读性极高);
- 机器层面:将循环推移至底层高度优化的 C 语言内核中,充分激活 CPU 的 SIMD(单指令多数据)硬件向量加速。
- 等形状数组的逐元素运算(Element-wise Operations):加减乘除与幂运算。
- 广播机制(Broadcasting)的两大黄金法则:
- 法则一:从后向前(从右往左)逐个对齐各数组的维度形状;
- 法则二:若两个维度相等,或者其中一个维度的长度为 1,则这两个维度是兼容可广播的。
- 多维广播典型拓扑演练:标量与矩阵、一维行向量与二维矩阵、列向量与行向量外积广播。
1. 向量化运算与广播机制几何模型
当两个参与算术运算的多维数组形状不完全相同时,NumPy 会自动在长度为 1 的轴上进行“虚拟复制拉伸”,使其形状匹配:
┌─────────────────────────────────────────────────────────────┐
│ NumPy 广播对齐机制 (Broadcasting) │
├─────────────────────────────────────────────────────────────┤
│ 1. 矩阵 (3 行 3 列) + 行向量 (1 行 3 列) │
│ [ [ 1, 2, 3 ], [ 10, 20, 30 ] │
│ [ 4, 5, 6 ], + │
│ [ 7, 8, 9 ] ] │
│ ║ 自动广播拉伸为 (3 行 3 列) │
│ ▼ │
│ [ [ 1, 2, 3 ], [ [ 10, 20, 30 ], │
│ [ 4, 5, 6 ], + [ 10, 20, 30 ], │
│ [ 7, 8, 9 ] ] [ 10, 20, 30 ] ] │
│ ║ 逐元素相加 │
│ ▼ │
│ [ [ 11, 22, 33 ], │
│ [ 14, 25, 36 ], │
│ [ 17, 28, 39 ] ] │
└─────────────────────────────────────────────────────────────┘注意:广播操作是完全基于内存步长(Strides)的“虚拟计算”,并不会真的在内存中复制数据,因此几乎不产生额外内存开销!
2. Python 代码实战:向量化运算与多维广播
# 示例 1:等形状数组的向量化逐元素四则运算
import numpy as np
arr_a = np.array([10, 20, 30, 40], dtype=np.float64)
arr_b = np.array([2, 4, 5, 8], dtype=np.float64)
print("=== 1. 相同形状数组的向量化运算 ===")
print("数组 A:", arr_a)
print("数组 B:", arr_b)
# 向量化加法、减法、乘法、除法与幂运算 (无任何显式 for 循环)
print("\n• A + B (逐元素相加):", arr_a + arr_b)
print("• A - B (逐元素相减):", arr_a - arr_b)
print("• A * B (逐元素相乘):", arr_a * arr_b)
print("• A / B (逐元素相除):", arr_a / arr_b)
print("• A ** 2 (向量平方):", arr_a ** 2)
# 标量广播 (整型标量自动应用到所有元素)
print("• A * 1.5 (标量乘法):", arr_a * 1.5)接下来,我们演示不同形状数组之间的多维广播实战(包括列标准化业务场景):
# 示例 2:多维数组广播机制与数据标准化实战
# 1. 二维矩阵与一维行向量广播 (3x3 矩阵 + 1x3 向量)
mat_3x3 = np.array([
[1, 2, 3],
[4, 5, 6],
[7, 8, 9]
])
row_vec = np.array([10, 20, 30]) # 形状为 (3,)
broadcast_res = mat_3x3 + row_vec
print("\n=== 2. 矩阵与行向量广播相加 ===")
print("原始矩阵 (3, 3):\n", mat_3x3)
print("行向量 (3,):\n", row_vec)
print("广播相加结果 (3, 3):\n", broadcast_res)
# 2. 列向量与行向量广播 (3x1 矩阵 + 1x4 矩阵 -> 3x4 矩阵)
col_vec = np.array([[10], [20], [30]]) # 形状 (3, 1)
row_vec_4 = np.array([1, 2, 3, 4]) # 形状 (4,)
outer_product_grid = col_vec + row_vec_4
print("\n=== 3. 列向量 (3,1) + 行向量 (4,) 广播生成网格矩阵 (3,4) ===")
print(outer_product_grid)
# 3. 典型业务应用:特征矩阵的列均值归一化 (Zero-Center 标准化)
features = np.array([
[170, 65, 25],
[180, 80, 30],
[160, 50, 20]
], dtype=np.float64)
# 计算各列特征的均值 (形状为 3,)
mean_per_column = np.mean(features, axis=0)
# 利用广播机制一句话实现去中心化:每一列元素减去该列自身的均值
centered_features = features - mean_per_column
print("\n=== 4. 数据分析实战:利用广播一句话实现特征矩阵去中心化 ===")
print("原始特征矩阵:\n", features)
print("各列均值:", mean_per_column)
print("去中心化后矩阵 (各列均值变为 0):\n", np.round(centered_features, 2))📝 动手练一练
维度匹配分析题:判断以下两个形状的数组能否进行广播运算?如果能,最终生成的数组形状是什么?
- 数组 A 形状:
(8, 1, 6, 1) - 数组 B 形状:
(7, 1, 5)
👉 点击查看参考答案
参考答案: 可以广播,最终生成的数组形状为
(8, 7, 6, 5)。 推导过程(从右向左逐轴对齐):- 轴 3(末轴):A 的长度为 1,B 为 5 $\rightarrow$ 兼容,广播为 5;
- 轴 2:A 为 6,B 为 1 $\rightarrow$ 兼容,广播为 6;
- 轴 1:A 为 1,B 为 7 $\rightarrow$ 兼容,广播为 7;
- 轴 0:A 为 8,B 缺失(视为 1) $\rightarrow$ 兼容,广播为 8。
- 数组 A 形状:
编程练习:给定一个 4 行 3 列的数组
data = np.random.randint(10, 100, size=(4, 3)),请利用广播机制,将每一行的元素都除以该行的最大值,使得每行最大值归一化为 1.0。👉 点击查看参考答案
参考答案:
import numpy as np data = np.array([ [10, 20, 50], [30, 90, 60], [80, 40, 20], [50, 50, 100] ], dtype=np.float64) # 计算每行最大值,使用 keepdims=True 保持形状为 (4, 1) 以便广播 row_max = np.max(data, axis=1, keepdims=True) norm_data = data / row_max print("=== 行最大值归一化结果 ===") print(np.round(norm_data, 2))
本章小结
在本节中,我们攻克了 NumPy 性能优化的核心灵魂——向量化与广播机制:
- 深刻理解了向量化消灭 Python 循环、激活底硬件 SIMD 加速的本质;
- 熟练掌握了同形状数组的逐元素算术运算;
- 牢记了从右向左对齐维度的两大广播法则,并能熟练运用于特征去中心化与矩阵乘网格构造中。
📋 行动清单
- 尝试手算并用代码验证各种奇特形状数组的广播兼容性。
- 做好准备,进入下一小节学习《向量化通用函数 ufunc 与数学映射》!
—— 小象教研组
- 本节课件:向量化介绍(PDF · 289KB)下载
- 全套课件打包(第1-5章)(ZIP · 12.8MB)下载
- 全套课件打包(第6-8章)(ZIP · 15MB)下载
- 实战数据集:AppleStore 应用商城分析(ZIP · 329KB)下载
- 实战数据集:女性服装电商分析(ZIP · 2.8MB)下载
- Python 数据分析环境搭建指南(PDF · 2MB)下载
- Scrapy 安装教程(PDF · 12.7MB)下载
- 附加实战项目:AppleStore 应用商城数据分析(ZIP · 0.3MB · ipynb + CSV 数据)下载
- 附加实战项目:银行电话营销数据分析(ZIP · 0.4MB · ipynb + CSV 数据)下载
- 附加实战项目:女性服装电商评论数据分析(ZIP · 2.7MB · ipynb + CSV 数据)下载
- 附加实战项目:美国化学学会杂志数据分析(ZIP · 34.2MB · ipynb + SQLite 数据库)下载
领取《小象 11GB VIP 课件资料包与大厂真题手册》
包含全套实战 Jupyter 源码、清洗后数据集、大厂高频面试真题与专属学员答疑交流群。
- ✔完整 Python / 数据分析 Jupyter 实战源码
- ✔大厂真实业务数据集与练习题
- ✔微信扫码添加课程顾问,免费获取网盘下载链接
微信扫码添加顾问