📑 查看全课大纲(第 35 / 101 节)
- 1.数据分析基本概念
- 2.学习数据分析的一般路线
- 3.数据分析的流程
- 4.数据类型
- 5.环境部署(1)
- 6.环境部署(2)
- 7.课程介绍
- 8.TXT文件操作
- 9.JSON文件操作
- 10.CSV文件操作
- 11.Excel文件操作
- 12.数据库及SQL常用语法
- 13.数据库基本操作
- 14.数据库多表连接
- 15.实战:欧洲职业足球数据库分析
- 16.爬虫简介
- 17.URL管理模块
- 18.网页下载模块
- 19.网页解析模块(1)
- 20.网页解析模块(2)
- 21.Scrapy简介
- 22.Scrapy使用步骤(1)
- 23.Scrapy使用步骤(2)
- 24.Scrapy使用步骤(3)
- 25.Scrapy使用步骤(4)
- 26.实战:获取国内城市空气质量指数数据
- 27.NumPy和SciPy介绍
- 28.多维数组
- 29.多维数组操作
- 30.NumPy的常用方法
- 31.向量化介绍
- 32.向量化及通用函数
- 33.实战:2016美国大选分析
- 34.数据结构-Series
- 35.数据结构-DataFrame
- 36.数据结构-Index
- 37.Series的索引操作
- 38.DataFrame的索引操作
- 39.索引操作总结
- 40.运算与对齐
- 41.函数应用操作(1) -- map
- 42.函数应用操作 (2) -- apply applymap
- 43.文件读写操作
- 44.排序操作
- 45.数据清洗--处理缺失数据
- 46.数据清洗--处理重复数据
- 47.数据清洗--替换数据
- 48.常用统计方法(1) -- describe quantile
- 49.常用统计方法(2) -- sum mean median count
- 50.常用统计方法(3) -- max min idxmax idxmin
- 51.常用统计方法(4) -- mad var std cumsum
- 52.实战:全球食品数据分析
- 53.层级索引
- 54.分组与聚合介绍
- 55.分组操作(1) -- GroupBy对象及常用聚合操作
- 56.分组操作(2) -- 自定义分组及聚合操作
- 57.透视表介绍
- 58.透视表操作
- 59.数据规整(1) -- 数据合并concat
- 60.数据规整(2) -- 数据连接merge
- 61.数据重构(3) -- 数据重构stack unstack
- 62.实战:互联网电影资料库分析
- 63.探索性数据分析EDA介绍
- 64.EDA的目的
- 65.EDA常用工具
- 66.Matplotlib绘图基本介绍
- 67.Matplotlib画布
- 68.散点图和柱状图的绘制
- 69.直方图的绘制
- 70.矩阵绘图
- 71.子图的使用
- 72.Matplotlib颜色、标记、线型
- 73.Matplotlib坐标刻度、标签、图例、标题
- 74.Seaborn介绍
- 75.数据集分布可视化(1) -- 单变量分布、双变量分布
- 76.数据集分布可视化(2) -- 变量关系可视化
- 77.类别数据可视化 -- 类别散布图、类别内数据分布、类别内统计图
- 78.交互式数据可视化工具Bokeh介绍
- 79.Bokeh绘制散点图、柱状图、盒子图、弦图
- 80.Bokeh绘制常用图形元素
- 81.D绘图 -- mplot3d
- 82.D曲线可视化
- 83.D散点图可视化
- 84.D柱状图可视化
- 85.Pandas绘图
- 86.实战:Lending Club借贷数据探索性分析及可视化
- 87.机器学习介绍及应用场景
- 88.机器学习建模介绍 (1) -- 分类
- 89.机器学习建模介绍 (2) -- 回归
- 90.机器学习建模介绍 (3) -- 聚类
- 91.机器学习分类
- 92.机器学习工具scikit-learn
- 93.使用scikit-learn的流程
- 94.数据集准备及划分
- 95.模型选择
- 96.数据预处理及特征工程
- 97.过拟合与欠拟合
- 98.模型调参介绍
- 99.模型调参方法
- 100.模型测试及评价
- 101.实战:通过移动设备行为数据预测性别和年龄
数据结构-DataFrame
约 15 分钟
Pandas 二维核心容器:DataFrame 数据结构与表格模型精讲
小象实战讲义 · Python数据分析实战
如果说 Series 对应的是单列特征或一维向量,那么 DataFrame 就是数据科学与商业分析领域最为核心的二维表格型数据结构。DataFrame 同时拥有行索引(index / Axis 0)和列索引(columns / Axis 1),可以将其直观视为由多个共用相同行索引的 Series 组成的结构化矩形容器。在日常业务场景中,无论是 CSV 报表、SQL 数据库表、Excel 工作簿还是 Web API 返回的 JSON 嵌套数据,加载到 Pandas 中都表现为标准的 DataFrame 对象。本节我们将系统讲解 DataFrame 的二维内存模型、多样化构造方式以及数据概览与诊断函数。
💡 核心导读
- DataFrame 的二维双轴表格模型:行索引(Row Index / Axis 0)与列索引(Column Index / Axis 1)双轴立体定位。
- 四大核心构建范式:
- 基于由列表构成的字典(Dict of Lists,最常见的数据导入形式);
- 基于由 Series 构成的字典(Dict of Series,自动按行索引对齐);
- 基于二维 NumPy
ndarray矩阵(高效连续内存构建); - 基于嵌套字典(Nested Dict,外层 Key 为列名,内层 Key 为行索引)。
- 高频表格结构探查与诊断 API:
head()、tail()、info()、describe()、shape与dtypes。
1. DataFrame 的二维结构与双轴坐标系
DataFrame 的坐标系由行轴(Axis 0)与列轴(Axis 1)共同构成:
┌─────────────────────────────────────────────────────────────┐
│ Pandas DataFrame 双轴模型 │
├──────────────┬──────────────────────────────────────────────┤
│ │ Columns (Axis 1 列轴) │
│ Index ├──────────────┬───────────────┬───────────────┤
│ (Axis 0 行轴)│ 'City' │ 'Population' │ 'GDP_Billion' │
├──────────────┼──────────────┼───────────────┼───────────────┤
│ 0 │ 'Beijing' │ 2154.2 │ 43760 │
│ 1 │ 'Shanghai' │ 2487.1 │ 47218 │
│ 2 │ 'Guangzhou' │ 1867.7 │ 30355 │
│ 3 │ 'Shenzhen' │ 1756.0 │ 34606 │
└──────────────┴──────────────┴───────────────┴───────────────┘- 每一列都是一个独立的 Series:一列内部的数据类型必须同质,但不同列之间的数据类型可以各不相同(如一列是字符串、一列是浮点数、一列是布尔值);
- 行与列均具备具名标签:支持灵活的多维行列切片与投影。
# 示例 1:DataFrame 的多种构造范式实战
import pandas as pd
import numpy as np
# 1. 从列表构成的字典构建 DataFrame (最常用方式)
order_dict = {
"order_id": ["ORD_001", "ORD_002", "ORD_003", "ORD_004", "ORD_005"],
"customer": ["Alice", "Bob", "Charlie", "David", "Eva"],
"category": ["电子产品", "日用百货", "日用百货", "服装鞋帽", "电子产品"],
"amount": [2999.0, 158.5, 89.0, 450.0, 5699.0],
"is_vip": [True, False, False, True, True]
}
df_orders = pd.DataFrame(order_dict)
print("=== 1. 从列表字典创建订单 DataFrame ===")
print(df_orders)
# 2. 从二维 NumPy 数组创建并指定行和列标签
matrix_data = np.random.randint(50, 100, size=(4, 3))
df_scores = pd.DataFrame(
matrix_data,
index=["张三", "李四", "王五", "赵六"],
columns=["语文", "数学", "英语"]
)
print("\n=== 2. 从二维 ndarray 创建成绩 DataFrame ===")
print(df_scores)
# 3. 从嵌套字典构建 (外层 Key 自动转为列名,内层 Key 自动转为行索引)
store_data = {
"店面A": {"咖啡": 150, "奶茶": 200, "果汁": 80},
"店面B": {"咖啡": 180, "奶茶": 220, "蛋糕": 95}
}
df_stores = pd.DataFrame(store_data)
print("\n=== 3. 从嵌套字典构建 (缺失值自动填充 NaN) ===")
print(df_stores)2. DataFrame 快速诊断与元数据探查
拿到一份陌生数据集时,首先需要对其形状、列名、缺失情况以及内存占用进行初步诊断。Pandas 提供了 head()、tail()、info() 与 dtypes 等高效工具。通过这些诊断函数,我们可以快速识别是否存在异常的缺失值或数据类型不匹配的问题。
# 示例 2:DataFrame 结构快速探查与诊断方法
# 1. 查看前几行与后几行
print("=== 4. 表格快速预览 ===")
print("• 查看前 3 行 (head):\n", df_orders.head(3))
print("• 查看后 2 行 (tail):\n", df_orders.tail(2))
# 2. 检查形状与维度
print("\n=== 5. 形状与列属性 ===")
print("• 表格形状 (行数, 列数):", df_orders.shape)
print("• 列索引名称清单:", df_orders.columns.tolist())
print("• 行索引对象:", df_orders.index)
print("• 各列数据类型 (dtypes):\n", df_orders.dtypes)
# 3. 查看表格整体元数据与非空计数 (info)
print("\n=== 6. 表格元数据与内存信息 (info) ===")
df_orders.info()📝 动手练一练
概念思考题:在 DataFrame 中,如果使用 df[‘amount’] 提取某一列,返回的数据结构是什么?如果使用 df[[‘amount’]] 提取,返回的又是什么?
👉 点击查看参考答案
参考答案:
df['amount'](传入单个字符串):返回的是一维的Series对象;df[['amount']](传入包含列名的列表):返回的是一个只包含该单列的二维DataFrame对象。
编程练习:请编写代码构建一个包含 3 名员工的 ‘employee_id’、‘name’、‘department’ 与 ‘salary’ 字段的 DataFrame,并将 ‘employee_id’ 设为行索引。
👉 点击查看参考答案
参考答案:
import pandas as pd emp_data = { 'name': ['张伟', '王芳', '李明'], 'department': ['技术部', '市场部', '财务部'], 'salary': [18000, 15000, 16500] } emp_ids = ['EMP_101', 'EMP_102', 'EMP_103'] df_emp = pd.DataFrame(emp_data, index=emp_ids) df_emp.index.name = 'employee_id' print(df_emp)
本章小结
- 深刻理解了 DataFrame 的二维行轴与列轴双坐标系模型;
- 掌握了从字典、Series 集合与 NumPy 二维矩阵构建 DataFrame 的多样化方法;
- 熟练运用
head、tail、shape、dtypes与info对数据集进行初步诊断。
📋 行动清单
- 在本地执行示例代码,观察控制台输出并记录关键指标。
- 做好准备,进入下一小节学习《数据结构:Index 索引对象的特性与集合操作》!
—— 小象教研组
- 本节课件:数据结构-DataFrame(PDF · 200KB)下载
- 全套课件打包(第1-5章)(ZIP · 12.8MB)下载
- 全套课件打包(第6-8章)(ZIP · 15MB)下载
- 实战数据集:AppleStore 应用商城分析(ZIP · 329KB)下载
- 实战数据集:女性服装电商分析(ZIP · 2.8MB)下载
- Python 数据分析环境搭建指南(PDF · 2MB)下载
- Scrapy 安装教程(PDF · 12.7MB)下载
- 附加实战项目:AppleStore 应用商城数据分析(ZIP · 0.3MB · ipynb + CSV 数据)下载
- 附加实战项目:银行电话营销数据分析(ZIP · 0.4MB · ipynb + CSV 数据)下载
- 附加实战项目:女性服装电商评论数据分析(ZIP · 2.7MB · ipynb + CSV 数据)下载
- 附加实战项目:美国化学学会杂志数据分析(ZIP · 34.2MB · ipynb + SQLite 数据库)下载
领取《小象 11GB VIP 课件资料包与大厂真题手册》
包含全套实战 Jupyter 源码、清洗后数据集、大厂高频面试真题与专属学员答疑交流群。
- ✔完整 Python / 数据分析 Jupyter 实战源码
- ✔大厂真实业务数据集与练习题
- ✔微信扫码添加课程顾问,免费获取网盘下载链接
微信扫码添加顾问