← 返回《Python 数据分析实战》
📑 查看全课大纲(第 27 / 101 节)
  1. 1.数据分析基本概念
  2. 2.学习数据分析的一般路线
  3. 3.数据分析的流程
  4. 4.数据类型
  5. 5.环境部署(1)
  6. 6.环境部署(2)
  7. 7.课程介绍
  8. 8.TXT文件操作
  9. 9.JSON文件操作
  10. 10.CSV文件操作
  11. 11.Excel文件操作
  12. 12.数据库及SQL常用语法
  13. 13.数据库基本操作
  14. 14.数据库多表连接
  15. 15.实战:欧洲职业足球数据库分析
  16. 16.爬虫简介
  17. 17.URL管理模块
  18. 18.网页下载模块
  19. 19.网页解析模块(1)
  20. 20.网页解析模块(2)
  21. 21.Scrapy简介
  22. 22.Scrapy使用步骤(1)
  23. 23.Scrapy使用步骤(2)
  24. 24.Scrapy使用步骤(3)
  25. 25.Scrapy使用步骤(4)
  26. 26.实战:获取国内城市空气质量指数数据
  27. 27.NumPy和SciPy介绍
  28. 28.多维数组
  29. 29.多维数组操作
  30. 30.NumPy的常用方法
  31. 31.向量化介绍
  32. 32.向量化及通用函数
  33. 33.实战:2016美国大选分析
  34. 34.数据结构-Series
  35. 35.数据结构-DataFrame
  36. 36.数据结构-Index
  37. 37.Series的索引操作
  38. 38.DataFrame的索引操作
  39. 39.索引操作总结
  40. 40.运算与对齐
  41. 41.函数应用操作(1) -- map
  42. 42.函数应用操作 (2) -- apply applymap
  43. 43.文件读写操作
  44. 44.排序操作
  45. 45.数据清洗--处理缺失数据
  46. 46.数据清洗--处理重复数据
  47. 47.数据清洗--替换数据
  48. 48.常用统计方法(1) -- describe quantile
  49. 49.常用统计方法(2) -- sum mean median count
  50. 50.常用统计方法(3) -- max min idxmax idxmin
  51. 51.常用统计方法(4) -- mad var std cumsum
  52. 52.实战:全球食品数据分析
  53. 53.层级索引
  54. 54.分组与聚合介绍
  55. 55.分组操作(1) -- GroupBy对象及常用聚合操作
  56. 56.分组操作(2) -- 自定义分组及聚合操作
  57. 57.透视表介绍
  58. 58.透视表操作
  59. 59.数据规整(1) -- 数据合并concat
  60. 60.数据规整(2) -- 数据连接merge
  61. 61.数据重构(3) -- 数据重构stack unstack
  62. 62.实战:互联网电影资料库分析
  63. 63.探索性数据分析EDA介绍
  64. 64.EDA的目的
  65. 65.EDA常用工具
  66. 66.Matplotlib绘图基本介绍
  67. 67.Matplotlib画布
  68. 68.散点图和柱状图的绘制
  69. 69.直方图的绘制
  70. 70.矩阵绘图
  71. 71.子图的使用
  72. 72.Matplotlib颜色、标记、线型
  73. 73.Matplotlib坐标刻度、标签、图例、标题
  74. 74.Seaborn介绍
  75. 75.数据集分布可视化(1) -- 单变量分布、双变量分布
  76. 76.数据集分布可视化(2) -- 变量关系可视化
  77. 77.类别数据可视化 -- 类别散布图、类别内数据分布、类别内统计图
  78. 78.交互式数据可视化工具Bokeh介绍
  79. 79.Bokeh绘制散点图、柱状图、盒子图、弦图
  80. 80.Bokeh绘制常用图形元素
  81. 81.D绘图 -- mplot3d
  82. 82.D曲线可视化
  83. 83.D散点图可视化
  84. 84.D柱状图可视化
  85. 85.Pandas绘图
  86. 86.实战:Lending Club借贷数据探索性分析及可视化
  87. 87.机器学习介绍及应用场景
  88. 88.机器学习建模介绍 (1) -- 分类
  89. 89.机器学习建模介绍 (2) -- 回归
  90. 90.机器学习建模介绍 (3) -- 聚类
  91. 91.机器学习分类
  92. 92.机器学习工具scikit-learn
  93. 93.使用scikit-learn的流程
  94. 94.数据集准备及划分
  95. 95.模型选择
  96. 96.数据预处理及特征工程
  97. 97.过拟合与欠拟合
  98. 98.模型调参介绍
  99. 99.模型调参方法
  100. 100.模型测试及评价
  101. 101.实战:通过移动设备行为数据预测性别和年龄

NumPy和SciPy介绍

约 9 分钟

📺 正在播放小象官方高清录播(支持倍速与清晰度调节)

科学计算基石:NumPy 与 SciPy 全景架构与 ndarray 核心属性精讲

小象实战讲义 · Python数据分析实战

在 Python 数据科学与人工智能技术栈中,NumPy(Numerical Python)SciPy(Scientific Python) 占据着不可动摇的基石地位。几乎所有上层的高级数据分析与机器学习库(如 Pandas、Scikit-learn、Matplotlib、PyTorch、TensorFlow)都深度依赖 NumPy 的底层多维数组容器与高速数值计算内核。如果直接使用 Python 原生的 list 列表进行大规模数学运算,不仅会受到动态类型指针开销和解释器循环的严重拖累,内存占用也会呈倍数膨胀。本节我们将深入剖析 NumPy 与 SciPy 的定位、底层连续内存布局原理,以及核心数据结构 ndarray 的关键属性。

💡 核心导读

  • 科学计算双子星定位对比
    • NumPy:提供底层 $N$ 维数组对象(ndarray)、广播机制、矢量运算与线性代数基础;
    • SciPy:在 NumPy 基础上扩展了数值积分、常微分方程求解、优化算法、信号处理与统计检验等工程级算法包。
  • ndarray 多维数组核心特性:同质数据类型(Homogeneous)、连续内存存储(C-contiguous / Fortran-contiguous)与矢量化并行加速。
  • 三大核心元数据属性深度解构
    • ndim:数组的维度轴数(如 1 维向量、2 维表格矩阵、3 维图像张量);
    • shape:元组形式描述的各个轴向长度尺寸;
    • dtype:底层元素的数据类型(int32int64float32float64bool 等)。

1. 为什么需要 NumPy:原生 List 与 ndarray 内存对比

Python 原生列表(List)本质上是一个存放“对象指针”的动态数组。列表中的每个元素都可以是不同类型(整数、浮点、字符串),但这种灵活性带来了极高的内存开销与寻址延迟:

┌─────────────────────────────────────────────────────────────┐
│ 1. Python 原生 List 内存布局 (分散指针引用,缓存不命中)     │
│ [ List 指针数组 ] ──► [ PyObject: 1 ] [ PyObject: 2 ] ...   │
├─────────────────────────────────────────────────────────────┤
│ 2. NumPy ndarray 内存布局 (连续紧凑同质内存块,CPU 缓存友好) │
│ [ 连续内存缓冲区: | 0x01 | 0x02 | 0x03 | 0x04 | ... ]       │
└─────────────────────────────────────────────────────────────┘

NumPy 的 ndarray 在底层分配一块连续的内存缓冲区,所有元素必须拥有完全一致的数据类型(同质性),从而实现:

  1. 内存占用极致紧凑:无需存储额外的对象头信息,比原生 List 节省 70%~80% 内存;
  2. 硬件级缓存命中与 SIMD 指令加速:CPU 可以通过缓存行批量预读连续内存,利用向量化指令集一次并行计算多个数值。

2. Python 代码实战:ndarray 结构探索与核心属性读取

下面我们通过代码实操导入 NumPy,创建多维数组并深入剖析其内部结构属性:

# 示例 1:创建一维向量与二维矩阵并读取核心属性

import numpy as np

# 1. 常见别名导入规范
print(f"NumPy 版本: {np.__version__}")

# 2. 创建 1 维数组 (向量)
vec_1d = np.array([10, 20, 30, 40, 50], dtype=np.int32)
print("\n=== 1. 一维数组结构 ===")
print("数据内容:", vec_1d)
print("• 维度个数 (ndim):", vec_1d.ndim)
print("• 数组形状 (shape):", vec_1d.shape)
print("• 数据类型 (dtype):", vec_1d.dtype)
print("• 元素总数 (size):", vec_1d.size)
print("• 单元素字节数 (itemsize):", vec_1d.itemsize, "字节")

# 3. 创建 2 维数组 (矩阵: 2 行 3 列)
mat_2d = np.array([
    [1.5, 2.5, 3.5],
    [4.0, 5.0, 6.0]
], dtype=np.float64)

print("\n=== 2. 二维矩阵结构 ===")
print("矩阵内容:\n", mat_2d)
print("• 维度个数 (ndim):", mat_2d.ndim)
print("• 矩阵形状 (shape):", mat_2d.shape)
print("• 元素数据类型 (dtype):", mat_2d.dtype)
print("• 占用总字节数 (nbytes):", mat_2d.nbytes, "字节")

接下来,我们对比 Python 原生列表与 NumPy 数组在 100 万次元素累加计算中的性能表现:

# 示例 2:性能基准压测对比 (原生 List vs NumPy ndarray)

import time

size = 1_000_000

# 1. 原生 Python List 循环求和
py_list = list(range(size))
t0 = time.time()
py_sum = sum(py_list)
t1 = time.time()
py_time = (t1 - t0) * 1000

# 2. NumPy ndarray 向量化求和
np_arr = np.arange(size)
t2 = time.time()
np_sum = np.sum(np_arr)
t3 = time.time()
np_time = (t3 - t2) * 1000

print("\n=== 3. 100 万数据量求和性能测试 ===")
print(f"• 原生 Python sum() 耗时: {py_time:.2f} ms | 结果: {py_sum}")
print(f"• NumPy np.sum() 耗时: {np_time:.2f} ms | 结果: {np_sum}")
print(f"🚀 NumPy 运算速度相比原生 Python 提升约: {py_time / max(np_time, 0.001):.1f} 倍!")

📝 动手练一练

  1. 概念思考题:如果将包含整数与浮点数的混合列表 [1, 2, 3.14] 传入 np.array() 创建数组,最终生成的 ndarraydtype 会是什么?为什么?

    👉 点击查看参考答案

    参考答案: 会转换为 float64(浮点型)。因为 ndarray 要求底层内存中所有元素同质存储,当输入数据包含不同类型时,NumPy 会自动向上进行隐式类型提升(Upcasting),将整数全部安全转换为精度更高的浮点数。

  2. 编程练习:创建一个形状为 (2, 2, 3) 的三维三阶张量(即包含 2 个二维矩阵,每个矩阵 2 行 3 列),打印其 ndimshapesize 与所有元素。

    👉 点击查看参考答案

    参考答案

    import numpy as np
    
    tensor_3d = np.array([
        [[1, 2, 3], [4, 5, 6]],
        [[7, 8, 9], [10, 11, 12]]
    ])
    
    print("张量内容:\n", tensor_3d)
    print("维度 (ndim):", tensor_3d.ndim)
    print("形状 (shape):", tensor_3d.shape)
    print("元素总数 (size):", tensor_3d.size)

本章小结

在本节中,我们建立了科学计算与多维数值分析的基础认知:

  • 深刻理解了 NumPy 与 SciPy 的生态分工与协作定位;
  • 剖析了 ndarray 连续内存存储与高性能矢量运算的底层原理;
  • 掌握了 ndimshapedtypesize 等关键核心属性的读取与含义。

📋 行动清单

  • 在本地运行性能基准测试代码,直观感受矢量化计算的加速效果。
  • 做好准备,进入下一小节学习《多维数组的创建与数据类型转换》!

—— 小象教研组

配套学习资源与课件
  • 本节课件:NumPy和SciPy介绍(PDF · 399KB)
    下载
  • 第4章配套代码包:NumPy 示例与美国大选实战数据(ZIP · 0.5MB)
    下载
  • 全套课件打包(第1-5章)(ZIP · 12.8MB)
    下载
  • 全套课件打包(第6-8章)(ZIP · 15MB)
    下载
  • 实战数据集:AppleStore 应用商城分析(ZIP · 329KB)
    下载
  • 实战数据集:女性服装电商分析(ZIP · 2.8MB)
    下载
  • Python 数据分析环境搭建指南(PDF · 2MB)
    下载
  • Scrapy 安装教程(PDF · 12.7MB)
    下载
  • 附加实战项目:AppleStore 应用商城数据分析(ZIP · 0.3MB · ipynb + CSV 数据)
    下载
  • 附加实战项目:银行电话营销数据分析(ZIP · 0.4MB · ipynb + CSV 数据)
    下载
  • 附加实战项目:女性服装电商评论数据分析(ZIP · 2.7MB · ipynb + CSV 数据)
    下载
  • 附加实战项目:美国化学学会杂志数据分析(ZIP · 34.2MB · ipynb + SQLite 数据库)
    下载
🎁 免费学习资源

领取《小象 11GB VIP 课件资料包与大厂真题手册》

包含全套实战 Jupyter 源码、清洗后数据集、大厂高频面试真题与专属学员答疑交流群。

  • 完整 Python / 数据分析 Jupyter 实战源码
  • 大厂真实业务数据集与练习题
  • 微信扫码添加课程顾问,免费获取网盘下载链接
微信二维码:扫码添加课程顾问微信扫码添加顾问