← 返回《量化交易 Python 入门:从咖啡馆到华尔街》
📑 查看全课大纲(第 13 / 52 节)
  1. 1.量化分析基本概念:从咖啡馆到华尔街
  2. 2.量化交易员学习路线:从零基础到策略开发
  3. 3.量化策略生命周期:数据分析的五大流程
  4. 4.量化数据类型:数值型与类别型数据
  5. 5.量化沙盒搭建(1):Python与Anaconda安装
  6. 6.量化沙盒搭建(2):Jupyter Notebook与库配置
  7. 7.本地多源数据:量化历史回测的基石
  8. 8.TXT数据流操作:处理金融交易日志
  9. 9.JSON数据流操作:解析股票行情API响应
  10. 10.CSV行情文件操作:读取与存储历史K线
  11. 11.Excel报表操作:清洗财报与财务指标
  12. 12.量化数据库:SQL常用查询语法
  13. 13.量化数据库:Python连接与写入
  14. 14.量化多表连接:关联股票信息与行情
  15. 15.实战:小象咖啡店营业数据与个股财务指标的多源数据分析
  16. 16.量化数据采集:爬虫工作原理与合规
  17. 17.量化爬虫核心:URL管理与去重策略
  18. 18.量化网页下载:防反爬与请求头伪装
  19. 19.网页解析(1):使用XPath定位财经新闻
  20. 20.网页解析(2):使用CSS选择器与ItemLoader
  21. 21.Scrapy框架:构建工业级量化爬虫
  22. 22.Scrapy实战(1):新建项目与数据模型定义
  23. 23.Scrapy实战(2):编写财经爬虫逻辑
  24. 24.Scrapy实战(3):启用数据管道清洗行情
  25. 25.Scrapy实战(4):防反爬中间件配置
  26. 26.实战:构建每日热门个股行情自动采集系统
  27. 27.NumPy与SciPy:加速量化矩阵计算
  28. 28.NumPy数组:构建股票价格矩阵
  29. 29.数组切片:提取特定股票与交易日数据
  30. 30.NumPy常用方法:计算均值与波动率
  31. 31.向量化计算:摆脱缓慢的For循环
  32. 32.通用函数ufunc:计算对数收益率与累计收益
  33. 33.实战:股票组合资产收益率与协方差矩阵计算
  34. 34.Pandas Series:管理单只股票收盘价
  35. 35.Pandas DataFrame:构建多只股票行情面板
  36. 36.Pandas Index:时间序列索引与对齐
  37. 37.Series索引操作:按位置与标签访问行情数据
  38. 38.DataFrame索引操作:loc与iloc定位行情
  39. 39.索引总结:量化多字段筛选与定位
  40. 40.运算与对齐:合并不同交易日的数据
  41. 41.Pandas map:对股票代码与状态做映射
  42. 42.Pandas apply:滚动计算技术指标
  43. 43.文件读写操作:CSV行情数据导入导出
  44. 44.排序操作:按市盈率与收益率对股票排名
  45. 45.数据清洗:填充与剔除停牌股票缺失值
  46. 46.数据清洗:剔除重复报价与异常交易数据
  47. 47.数据清洗:替换异常报价数据
  48. 48.常用统计:量化最大回撤与分位数风险评估
  49. 49.常用统计:sum/mean/median/count聚合指标
  50. 50.极值定位:寻找历史最高价与最低价的发生日
  51. 51.风险与累计收益:计算年化波动率与累计回报
  52. 52.实战:小象咖啡店营业数据与热门个股时间序列清洗分析

量化数据库:Python连接与写入

量化数据库:Python连接与写入

小象量化极客小册 · 华尔街量化分析先锋系列

在量化交易中,历史回测数据往往以多种异构本地文件(TXT、CSV、JSON、Excel)和关系数据库形式存在。本节你将编写数据接口,读取小象咖啡的门店营收数据并解析股票行情API响应,打通量化回测的数据通道!

小象量化极客小册 · 华尔街量化分析先锋系列 在量化交易中,历史回测数据往往以多种异构本地文件(TXT、CSV、JSON、Excel)和关系数据库形式存在。本节你将编写数据接口,读取小象咖啡的门店营收数据并解析股票行情API响应,打通量化回测的数据通道!

💡 核心导读

本节将介绍数据库的基础操作技能,包括数据库连接、CRUD操作(增删改查)以及数据批量处理。通过Python的SQLite3和SQLAlchemy实战演示,读者将掌握:1) 使用标准库操作轻量级数据库;2) 通过ORM框架进行高效数据管理;3) 实现结构化数据的持久化存储。所有示例均采用真实业务场景的数据模型,包含完整的异常处理机制。


数据库连接与初始化

本地数据库创建

import sqlite3
from pathlib import Path

db_path = Path('sales_data.db')

if db_path.exists():
    db_path.unlink()

conn = sqlite3.connect(db_path)
cursor = conn.cursor()

cursor.execute('''
CREATE TABLE products (
    id INTEGER PRIMARY KEY AUTOINCREMENT,
    name TEXT NOT NULL,
    category TEXT CHECK(category IN ('电子', '量化持仓', '服饰')),
    price REAL DEFAULT 0.0,
    stock INTEGER DEFAULT 0
)''')

conn.commit()
print("数据库初始化完成")

连接状态验证

cursor.execute("PRAGMA table_info(products)")
columns = cursor.fetchall()

print("┌─────┬───────────┬─────────┬─────────┬───────┐")
print("│ CID │   Name    │  Type   │ Not Null│  PK   │")
print("├─────┼───────────┼─────────┼─────────┼───────┤")
for col in columns:
    print(f"│ {col[0]:<3}{col[1]:<9}{col[2]:<7}{col[3]:^7}{col[5]:^5} │")
print("└─────┴───────────┴─────────┴─────────┴───────┘")

💡 概念小测:数据库连接与提交

使用 Python sqlite3 将当日行情数据执行 INSERT 写入数据库后,必须执行什么操作才能确保数据真正被持久化写入磁盘,而不是只留在内存缓存中?

  • 必须执行 conn.close() 关闭连接。
  • 必须在连接对象上调用 conn.commit() 提交事务。
  • SQLite 会在每次 execute 后自动保存,无需任何操作。
  • 必须运行 conn.rollback() 清空缓存。

📝 选择题

💡 概念小测:数据库连接与提交 使用 Python sqlite3 将当日行情数据执行 INSERT 写入数据库后,必须执行什么操作才能确保数据真正被持久化写入磁盘,而不是只留在内存缓存中?

  • A. 必须执行 conn.close() 关闭连接。
  • B. 必须在连接对象上调用 conn.commit() 提交事务。
  • C. SQLite 会在每次 execute 后自动保存,无需任何操作。
  • D. 必须运行 conn.rollback() 清空缓存。

答案:B(必须在连接对象上调用 conn.commit() 提交事务。)


核心CRUD操作

批量数据插入

import pandas as pd

products = [
    ('智能手机', '电子', 5999.0, 100),
    ('蓝牙耳机', '电子', 399.0, 200),
    ('牛肉干', '量化持仓', 89.9, 50),
    ('T恤衫', '服饰', 129.0, 80)
]

cursor.executemany(
    "INSERT INTO products (name, category, price, stock) VALUES (?, ?, ?, ?)",
    products
)
conn.commit()

df = pd.read_sql("SELECT * FROM products", conn)
print("\n插入后的产品表:")
print(df.to_markdown(index=False, tablefmt="grid"))

数据更新与事务

try:
    # 开启事务
    conn.execute("BEGIN TRANSACTION")
    
    # 执行价格调整
    cursor.execute("UPDATE products SET price = price * 0.9 WHERE category = '电子'")
    
    # 模拟业务异常
    if len(products) > 0:
        pass  # 实际业务中可能有条件判断
        
    # 提交事务
    conn.commit()
    print("电子类产品价格已调整9折")
    
except Exception as e:
    conn.rollback()
    print(f"事务回滚: {str(e)}")


ORM框架实战

SQLAlchemy配置

from sqlalchemy import create_engine, Column, Integer, String, Float
from sqlalchemy.ext.declarative import declarative_base
from sqlalchemy.orm import sessionmaker

engine = create_engine(f'sqlite:///{db_path}')
Base = declarative_base()

class Product(Base):
    __tablename__ = 'products'
    
    id = Column(Integer, primary_key=True)
    name = Column(String(50), nullable=False)
    category = Column(String(10))
    price = Column(Float)
    stock = Column(Integer)

Session = sessionmaker(bind=engine)
session = Session()

高级查询示例

results = session.query(Product).filter(
    Product.category == '电子',
    Product.stock < 150
).order_by(Product.price.desc()).all()

print("\n库存紧张的电子产品:")
for p in results:
    print(f"{p.id:02d} | {p.name:<8} | 库存: {p.stock:<3} | 价格: {p.price:.1f}")

💡 代码填空:创建SQLite连接

补全代码,连接到本地名为 quant_data.db 的 SQLite 数据库:

import sqlite3

conn = sqlite3.{blank}('quant_data.db')
cursor = conn.cursor()
print("数据库连接成功!")
  • open
  • connect
  • Cursor

✏️ 填空题

💡 代码填空:创建SQLite连接 补全代码,连接到本地名为 quant_data.db 的 SQLite 数据库:

import sqlite3
# 创建或连接到本地数据库文件
conn = sqlite3.___('quant_data.db')
cursor = conn.cursor()
print("数据库连接成功!")

答案:connect


本章小结

行动清单

  • 在SQLite中新建一个客户表(customers),包含id、name、vip_level字段,并通过Python插入5条测试数据
  • 使用SQLAlchemy实现产品库存预警功能,当库存低于阈值时自动发送预警信息(打印到控制台)
  • 编写一个事务处理示例,模拟订单创建时同时扣减库存和生成物流记录的操作

「小象量化教研组」

🎁 免费学习资源

领取《小象 11GB VIP 课件资料包与大厂真题手册》

包含全套实战 Jupyter 源码、清洗后数据集、大厂高频面试真题与专属学员答疑交流群。

  • 完整 Python / 数据分析 Jupyter 实战源码
  • 大厂真实业务数据集与练习题
  • 微信扫码添加课程顾问,免费获取网盘下载链接
微信二维码:扫码添加课程顾问微信扫码添加顾问