← 返回《Python 数据分析实战》
📑 查看全课大纲(第 52 / 101 节)
  1. 1.数据分析基本概念
  2. 2.学习数据分析的一般路线
  3. 3.数据分析的流程
  4. 4.数据类型
  5. 5.环境部署(1)
  6. 6.环境部署(2)
  7. 7.课程介绍
  8. 8.TXT文件操作
  9. 9.JSON文件操作
  10. 10.CSV文件操作
  11. 11.Excel文件操作
  12. 12.数据库及SQL常用语法
  13. 13.数据库基本操作
  14. 14.数据库多表连接
  15. 15.实战:欧洲职业足球数据库分析
  16. 16.爬虫简介
  17. 17.URL管理模块
  18. 18.网页下载模块
  19. 19.网页解析模块(1)
  20. 20.网页解析模块(2)
  21. 21.Scrapy简介
  22. 22.Scrapy使用步骤(1)
  23. 23.Scrapy使用步骤(2)
  24. 24.Scrapy使用步骤(3)
  25. 25.Scrapy使用步骤(4)
  26. 26.实战:获取国内城市空气质量指数数据
  27. 27.NumPy和SciPy介绍
  28. 28.多维数组
  29. 29.多维数组操作
  30. 30.NumPy的常用方法
  31. 31.向量化介绍
  32. 32.向量化及通用函数
  33. 33.实战:2016美国大选分析
  34. 34.数据结构-Series
  35. 35.数据结构-DataFrame
  36. 36.数据结构-Index
  37. 37.Series的索引操作
  38. 38.DataFrame的索引操作
  39. 39.索引操作总结
  40. 40.运算与对齐
  41. 41.函数应用操作(1) -- map
  42. 42.函数应用操作 (2) -- apply applymap
  43. 43.文件读写操作
  44. 44.排序操作
  45. 45.数据清洗--处理缺失数据
  46. 46.数据清洗--处理重复数据
  47. 47.数据清洗--替换数据
  48. 48.常用统计方法(1) -- describe quantile
  49. 49.常用统计方法(2) -- sum mean median count
  50. 50.常用统计方法(3) -- max min idxmax idxmin
  51. 51.常用统计方法(4) -- mad var std cumsum
  52. 52.实战:全球食品数据分析
  53. 53.层级索引
  54. 54.分组与聚合介绍
  55. 55.分组操作(1) -- GroupBy对象及常用聚合操作
  56. 56.分组操作(2) -- 自定义分组及聚合操作
  57. 57.透视表介绍
  58. 58.透视表操作
  59. 59.数据规整(1) -- 数据合并concat
  60. 60.数据规整(2) -- 数据连接merge
  61. 61.数据重构(3) -- 数据重构stack unstack
  62. 62.实战:互联网电影资料库分析
  63. 63.探索性数据分析EDA介绍
  64. 64.EDA的目的
  65. 65.EDA常用工具
  66. 66.Matplotlib绘图基本介绍
  67. 67.Matplotlib画布
  68. 68.散点图和柱状图的绘制
  69. 69.直方图的绘制
  70. 70.矩阵绘图
  71. 71.子图的使用
  72. 72.Matplotlib颜色、标记、线型
  73. 73.Matplotlib坐标刻度、标签、图例、标题
  74. 74.Seaborn介绍
  75. 75.数据集分布可视化(1) -- 单变量分布、双变量分布
  76. 76.数据集分布可视化(2) -- 变量关系可视化
  77. 77.类别数据可视化 -- 类别散布图、类别内数据分布、类别内统计图
  78. 78.交互式数据可视化工具Bokeh介绍
  79. 79.Bokeh绘制散点图、柱状图、盒子图、弦图
  80. 80.Bokeh绘制常用图形元素
  81. 81.D绘图 -- mplot3d
  82. 82.D曲线可视化
  83. 83.D散点图可视化
  84. 84.D柱状图可视化
  85. 85.Pandas绘图
  86. 86.实战:Lending Club借贷数据探索性分析及可视化
  87. 87.机器学习介绍及应用场景
  88. 88.机器学习建模介绍 (1) -- 分类
  89. 89.机器学习建模介绍 (2) -- 回归
  90. 90.机器学习建模介绍 (3) -- 聚类
  91. 91.机器学习分类
  92. 92.机器学习工具scikit-learn
  93. 93.使用scikit-learn的流程
  94. 94.数据集准备及划分
  95. 95.模型选择
  96. 96.数据预处理及特征工程
  97. 97.过拟合与欠拟合
  98. 98.模型调参介绍
  99. 99.模型调参方法
  100. 100.模型测试及评价
  101. 101.实战:通过移动设备行为数据预测性别和年龄

实战:全球食品数据分析

约 15 分钟

📺 正在播放小象官方高清录播(支持倍速与清晰度调节)

第5章综合实战:全球食品安全与营养数据多维探索分析

小象实战讲义 · Python数据分析实战

在系统掌握了 Pandas 的核心数据结构(Series、DataFrame、Index)、多维切片与布尔索引、数据对齐运算、函数应用(map、apply)、文件 I/O 以及全套数据清洗与统计描述方法之后,本节我们将迎来第 5 章的压轴综合大实战——《全球公开食品营养与成分数据集多维探索分析》。我们将以真实的全球食品安全与营养成分数据为背景,完整演练从 TSV/CSV 数据集加载、内存占用与字段探查、缺失值与重复值清洗,到国家维度和产品类别的营养成分聚合统计全流程。

💡 核心导读

  • 实战业务目标:探索全球不同国家与品牌食品的热量、糖分、脂肪与添加剂分布,产出结构化健康评估报告。
  • 数据清洗与分析四步全流程
      1. pd.read_csv() 高效读取制表符分隔数据并解析数据类型;
      1. 数据概览与脏数据诊断(infoisna().sum()drop_duplicates);
      1. 缺失值多策略填充与异常值过滤(fillna、布尔掩码截断);
      1. 国家与品类维度聚合统计(meanquantileidxmaxsort_values)。
  • 高内聚可直接执行的端到端代码实战

1. 实战数据集构建与数据诊断

为了保证代码在本地环境 100% 可复现运行,我们首先模拟构建全球食品数据库样本:

┌─────────────────────────────────────────────────────────────┐
│                 全球食品数据集核心维度                      │
├─────────────────────────────────────────────────────────────┤
│ 1. product_name : 食品名称 (如 "全麦燕麦片", "有机黑巧")    │
│ 2. country      : 原产国 (如 "France", "USA", "China")      │
│ 3. energy_100g  : 每百克能量千卡 (kcal)                     │
│ 4. sugar_100g   : 每百克含糖量 (g)                          │
│ 5. fat_100g     : 每百克脂肪含量 (g)                        │
│ 6. nutriscore   : 营养健康等级 (A/B/C/D/E)                  │
└─────────────────────────────────────────────────────────────┘
import pandas as pd
import numpy as np
import os

# 1. 模拟生成 TSV 格式的全球食品数据集
mock_food_tsv = "world_food_facts_sample.tsv"
raw_tsv_data = """product_name\tcountry\tenergy_100g\tsugar_100g\tfat_100g\tnutriscore
全麦高纤燕麦片\tFrance\t365.0\t1.2\t6.5\tA
瑞士有机黑巧克力\tFrance\t540.0\t28.5\t35.0\tD
低脂酸奶\tUSA\t65.0\t8.0\t1.5\tB
纯天然椰子水\tUSA\t19.0\t3.5\t0.0\tA
浓香特级花生酱\tUSA\t588.0\t7.0\t50.0\tD
传统黑芝麻糊\tChina\t420.0\t18.0\t12.0\tC
云南纯普洱茶饼\tChina\t5.0\t0.0\t0.0\tA
高钙低脂牛奶\tChina\t48.0\t4.8\t1.5\tA
手工夹心黄油曲奇\tFrance\t510.0\t32.0\t26.0\tE
全麦高纤燕麦片\tFrance\t365.0\t1.2\t6.5\tA
"""

with open(mock_food_tsv, "w", encoding="utf-8") as f:
    f.write(raw_tsv_data.strip())

# 2. 读取 TSV 文件 (指定 sep='\t')
df_foods = pd.read_csv(mock_food_tsv, sep="\t")

print("=== 1. 数据集初步诊断 ===")
print("• 表格形状:", df_foods.shape)
print("• 前 3 行预览:\n", df_foods.head(3))
print("\n• 数据类型与非空统计:")
df_foods.info()

2. 数据清洗、去重与国家维度营养聚合分析

我们对重复行进行剔除,并基于国家和营养评级进行多维度统计与极值探寻。

# 1. 数据去重:移除完全重复的冗余行
df_clean = df_foods.drop_duplicates().reset_index(drop=True)
print(f"=== 2. 去重完成:从 {len(df_foods)} 行清洗为 {len(df_clean)} 行有效记录 ===")

# 2. 统计各原产国的食品数量及平均能量、含糖量
country_summary = df_clean.groupby("country")[["energy_100g", "sugar_100g", "fat_100g"]].mean().round(1)
print("\n=== 3. 各国家食品平均营养指标 ===")
print(country_summary)

# 3. 查找热量最高的食品 (使用 idxmax)
highest_energy_idx = df_clean["energy_100g"].idxmax()
top_energy_food = df_clean.loc[highest_energy_idx]
print(f"\n=== 4. 全球热量最高食品: 【{top_energy_food['product_name']}】 ({top_energy_food['energy_100g']} kcal/100g) ===")

# 4. 筛选出 Nutriscore 为 'A' 等级的健康食品清单
healthy_foods = df_clean[df_clean["nutriscore"] == "A"].sort_values(by="energy_100g")
print("\n=== 5. Nutriscore A 级优质健康食品排行 ===")
print(healthy_foods[["product_name", "country", "energy_100g", "sugar_100g"]])

# 清理临时文件
if os.path.exists(mock_food_tsv):
    os.remove(mock_food_tsv)

📝 动手练一练

  1. 业务实战思考题:在分析全球食品数据时,如果发现某款食品的糖分 sugar_100g 填成了 150g(超过 100g 的物理极限),在数据清洗阶段应该如何使用 Pandas 优雅地过滤或修复这类逻辑异常值?

    👉 点击查看参考答案

    参考答案

    • 方案一(直接过滤异常行):df = df[(df['sugar_100g'] >= 0) & (df['sugar_100g'] <= 100)]
    • 方案二(截断修复为上限 100 或置为 NaN):df.loc[df['sugar_100g'] > 100, 'sugar_100g'] = np.nan
  2. 综合编程练习:请使用 Pandas 对 df_clean 按照 'nutriscore' 统计各个健康等级的食品数量分布。

    👉 点击查看参考答案

    参考答案

    grade_counts = df_clean['nutriscore'].value_counts()
    print("各营养健康等级食品数量分布:")
    print(grade_counts)

本章小结

  • 完整走通了从 TSV 文件读取、字段诊断、数据去重到类型转换的清洗闭环;
  • 综合运用了 groupbymeanidxmax 与布尔切片完成了多维业务探索;
  • 具备了独立开展真实行业数据集探索性数据分析(EDA)的工程实战能力。

📋 行动清单

  • 在本地执行示例代码,观察控制台输出并记录关键指标。
  • 复习第 5 章全部 19 节内容,准备进入第 6 章《数据分析工具 Pandas 高阶》!

—— 小象教研组

配套学习资源与课件
  • 全套课件打包(第1-5章)(ZIP · 12.8MB)
    下载
  • 全套课件打包(第6-8章)(ZIP · 15MB)
    下载
  • 实战数据集:AppleStore 应用商城分析(ZIP · 329KB)
    下载
  • 实战数据集:女性服装电商分析(ZIP · 2.8MB)
    下载
  • Python 数据分析环境搭建指南(PDF · 2MB)
    下载
  • Scrapy 安装教程(PDF · 12.7MB)
    下载
  • 附加实战项目:AppleStore 应用商城数据分析(ZIP · 0.3MB · ipynb + CSV 数据)
    下载
  • 附加实战项目:银行电话营销数据分析(ZIP · 0.4MB · ipynb + CSV 数据)
    下载
  • 附加实战项目:女性服装电商评论数据分析(ZIP · 2.7MB · ipynb + CSV 数据)
    下载
  • 附加实战项目:美国化学学会杂志数据分析(ZIP · 34.2MB · ipynb + SQLite 数据库)
    下载
🎁 免费学习资源

领取《小象 11GB VIP 课件资料包与大厂真题手册》

包含全套实战 Jupyter 源码、清洗后数据集、大厂高频面试真题与专属学员答疑交流群。

  • 完整 Python / 数据分析 Jupyter 实战源码
  • 大厂真实业务数据集与练习题
  • 微信扫码添加课程顾问,免费获取网盘下载链接
微信二维码:扫码添加课程顾问微信扫码添加顾问