📑 查看全课大纲(第 40 / 101 节)
- 1.数据分析基本概念
- 2.学习数据分析的一般路线
- 3.数据分析的流程
- 4.数据类型
- 5.环境部署(1)
- 6.环境部署(2)
- 7.课程介绍
- 8.TXT文件操作
- 9.JSON文件操作
- 10.CSV文件操作
- 11.Excel文件操作
- 12.数据库及SQL常用语法
- 13.数据库基本操作
- 14.数据库多表连接
- 15.实战:欧洲职业足球数据库分析
- 16.爬虫简介
- 17.URL管理模块
- 18.网页下载模块
- 19.网页解析模块(1)
- 20.网页解析模块(2)
- 21.Scrapy简介
- 22.Scrapy使用步骤(1)
- 23.Scrapy使用步骤(2)
- 24.Scrapy使用步骤(3)
- 25.Scrapy使用步骤(4)
- 26.实战:获取国内城市空气质量指数数据
- 27.NumPy和SciPy介绍
- 28.多维数组
- 29.多维数组操作
- 30.NumPy的常用方法
- 31.向量化介绍
- 32.向量化及通用函数
- 33.实战:2016美国大选分析
- 34.数据结构-Series
- 35.数据结构-DataFrame
- 36.数据结构-Index
- 37.Series的索引操作
- 38.DataFrame的索引操作
- 39.索引操作总结
- 40.运算与对齐
- 41.函数应用操作(1) -- map
- 42.函数应用操作 (2) -- apply applymap
- 43.文件读写操作
- 44.排序操作
- 45.数据清洗--处理缺失数据
- 46.数据清洗--处理重复数据
- 47.数据清洗--替换数据
- 48.常用统计方法(1) -- describe quantile
- 49.常用统计方法(2) -- sum mean median count
- 50.常用统计方法(3) -- max min idxmax idxmin
- 51.常用统计方法(4) -- mad var std cumsum
- 52.实战:全球食品数据分析
- 53.层级索引
- 54.分组与聚合介绍
- 55.分组操作(1) -- GroupBy对象及常用聚合操作
- 56.分组操作(2) -- 自定义分组及聚合操作
- 57.透视表介绍
- 58.透视表操作
- 59.数据规整(1) -- 数据合并concat
- 60.数据规整(2) -- 数据连接merge
- 61.数据重构(3) -- 数据重构stack unstack
- 62.实战:互联网电影资料库分析
- 63.探索性数据分析EDA介绍
- 64.EDA的目的
- 65.EDA常用工具
- 66.Matplotlib绘图基本介绍
- 67.Matplotlib画布
- 68.散点图和柱状图的绘制
- 69.直方图的绘制
- 70.矩阵绘图
- 71.子图的使用
- 72.Matplotlib颜色、标记、线型
- 73.Matplotlib坐标刻度、标签、图例、标题
- 74.Seaborn介绍
- 75.数据集分布可视化(1) -- 单变量分布、双变量分布
- 76.数据集分布可视化(2) -- 变量关系可视化
- 77.类别数据可视化 -- 类别散布图、类别内数据分布、类别内统计图
- 78.交互式数据可视化工具Bokeh介绍
- 79.Bokeh绘制散点图、柱状图、盒子图、弦图
- 80.Bokeh绘制常用图形元素
- 81.D绘图 -- mplot3d
- 82.D曲线可视化
- 83.D散点图可视化
- 84.D柱状图可视化
- 85.Pandas绘图
- 86.实战:Lending Club借贷数据探索性分析及可视化
- 87.机器学习介绍及应用场景
- 88.机器学习建模介绍 (1) -- 分类
- 89.机器学习建模介绍 (2) -- 回归
- 90.机器学习建模介绍 (3) -- 聚类
- 91.机器学习分类
- 92.机器学习工具scikit-learn
- 93.使用scikit-learn的流程
- 94.数据集准备及划分
- 95.模型选择
- 96.数据预处理及特征工程
- 97.过拟合与欠拟合
- 98.模型调参介绍
- 99.模型调参方法
- 100.模型测试及评价
- 101.实战:通过移动设备行为数据预测性别和年龄
运算与对齐
约 11 分钟
📺 正在播放小象官方高清录播(支持倍速与清晰度调节)
Pandas 数据运算与自动对齐:算术方法、填充值 fill_value 与广播机制精讲
小象实战讲义 · Python数据分析实战
在真实的数据分析业务中,我们经常需要将两个来自不同时间、不同渠道或不同部门的数据集进行合并计算(如本月销售额减去上月销售额、各商品单价乘以销量)。与普通的矩阵计算不同,Pandas 最具威力的核心特性之一就是自动数据对齐(Data Alignment)。无论两个参与计算的 Series 或 DataFrame 拥有何种顺序和维度的标签,Pandas 都会自动按照标签进行交集/并集对齐。本节我们将深入探讨对齐机制、算术运算方法与填充值技巧。
💡 核心导读
- 自动数据对齐(Index Alignment)法则:
- 标签同时存在于两个对象中:正常执行数值计算;
- 标签仅存在于某一个对象中:对齐结果自动标记为
NaN(不丢失信息)。
- 带填充值的算术方法族:
.add()、.sub()、.mul()、.div()配合fill_value参数消除无意义的 NaN。 - DataFrame 与 Series 之间的跨维广播运算:默认沿
axis=1(按行广播)与使用axis=0(按列广播)。
1. 自动数据对齐与算术方法实战
当两个 Series 或 DataFrame 使用运算符(+、-、*、/)相加时,Pandas 会对行索引与列索引求并集:
┌─────────────────────────────────────────────────────────────┐
│ Pandas 自动索引对齐相加模型 │
├─────────────────────────────────────────────────────────────┤
│ Series A: Series B: 结果 (A + B)│
│ '北京': 100 '北京': 50 '北京': 150 │
│ '上海': 200 + '广州': 80 = '上海': NaN │
│ '广州': NaN │
└─────────────────────────────────────────────────────────────┘# 示例 1:Series 自动对齐与 fill_value 消除 NaN
import pandas as pd
import numpy as np
# 两个季度的各门店销售额 (门店清单不完全相同)
q1_sales = pd.Series({"门店A": 120, "门店B": 85, "门店C": 200})
q2_sales = pd.Series({"门店B": 95, "门店C": 210, "门店D": 150})
print("=== 1. 原生 + 运算符 (未重合项产生 NaN) ===")
print(q1_sales + q2_sales)
# 使用带 fill_value 的 add 方法:缺失项视为 0 参与计算
total_sales = q1_sales.add(q2_sales, fill_value=0)
print("\n=== 2. 使用 add(fill_value=0) 避免 NaN ===")
print(total_sales)2. DataFrame 与 Series 之间的广播运算
DataFrame 与 Series 进行算术运算时,默认会将 Series 的 Index 与 DataFrame 的 Columns 进行对齐,并沿行向下广播。若要按列对齐,需显式指定 axis='index' 或 axis=0。
# 示例 2:DataFrame 与 Series 跨维广播运算
# 创建商品价格与折扣表
df_prices = pd.DataFrame({
"原价": [100, 250, 400],
"运费": [10, 15, 20]
}, index=["商品1", "商品2", "商品3"])
# 定义各列的统一打折系数
discounts = pd.Series({"原价": 0.8, "运费": 1.0})
print("=== 3. 默认按列名对齐并按行广播 (df * Series) ===")
discounted_df = df_prices * discounts
print(discounted_df)
# 计算每个商品相对于平均原价的离差 (按行索引对齐,需指定 axis=0)
avg_per_product = df_prices.mean(axis=1)
deviation_df = df_prices.sub(avg_per_product, axis=0)
print("\n=== 4. 沿 axis=0 广播计算行内离差 ===")
print(deviation_df)📝 动手练一练
概念思考题:在两个 DataFrame 相乘时,df1 * df2 与 df1.mul(df2, fill_value=1) 的关键区别是什么?
👉 点击查看参考答案
参考答案:
df1 * df2:只要某个单元格在任一 DataFrame 中缺失,乘积结果直接变为NaN;df1.mul(df2, fill_value=1):如果某单元格只在其中一个 DataFrame 中存在,会将另一个缺失方视为乘法单位元1参与计算,从而保留已有数值。
编程练习:给定 DataFrame 和一个行均值 Series,请使用
.div(..., axis=0)将 DataFrame 的每一行除以其对应的行均值进行归一化。👉 点击查看参考答案
参考答案:
import pandas as pd df = pd.DataFrame({'A': [10, 20], 'B': [30, 40]}) row_means = df.mean(axis=1) norm_df = df.div(row_means, axis=0) print(norm_df)
本章小结
- 深刻理解了 Pandas 自动数据对齐的核心机制与数学本质;
- 掌握了
.add()、.sub()等方法中fill_value消除 NaN 的技巧; - 熟练运用 DataFrame 与 Series 在
axis=0与axis=1维度上的双向广播。
📋 行动清单
- 在本地执行示例代码,观察控制台输出并记录关键指标。
- 做好准备,进入下一小节学习《Pandas 函数应用操作(1):Series.map() 映射转换》!
—— 小象教研组
配套学习资源与课件
- 本节课件:运算与对齐(PDF · 193KB)下载
- 全套课件打包(第1-5章)(ZIP · 12.8MB)下载
- 全套课件打包(第6-8章)(ZIP · 15MB)下载
- 实战数据集:AppleStore 应用商城分析(ZIP · 329KB)下载
- 实战数据集:女性服装电商分析(ZIP · 2.8MB)下载
- Python 数据分析环境搭建指南(PDF · 2MB)下载
- Scrapy 安装教程(PDF · 12.7MB)下载
- 附加实战项目:AppleStore 应用商城数据分析(ZIP · 0.3MB · ipynb + CSV 数据)下载
- 附加实战项目:银行电话营销数据分析(ZIP · 0.4MB · ipynb + CSV 数据)下载
- 附加实战项目:女性服装电商评论数据分析(ZIP · 2.7MB · ipynb + CSV 数据)下载
- 附加实战项目:美国化学学会杂志数据分析(ZIP · 34.2MB · ipynb + SQLite 数据库)下载
🎁 免费学习资源
领取《小象 11GB VIP 课件资料包与大厂真题手册》
包含全套实战 Jupyter 源码、清洗后数据集、大厂高频面试真题与专属学员答疑交流群。
- ✔完整 Python / 数据分析 Jupyter 实战源码
- ✔大厂真实业务数据集与练习题
- ✔微信扫码添加课程顾问,免费获取网盘下载链接
微信扫码添加顾问