如何使用Python创建数据库游标并操作SQL语句?

## 1. 游标不是“指针”,而是数据库操作的执行手柄 很多人刚接触数据库编程时,看到“cursor”这个词,下意识就联想到C语言里的指针——以为它是指向某一行数据的内存地址。其实完全不是这么回事。游标在Python数据库操作中,更像你手里握着的一把多功能螺丝刀:它不存储数据,也不长期持有结果,而是在你下达指令(比如`execute("SELECT * FROM users")`)的那一刻,才真正去数据库里跑一趟,把命令交过去,再把响应带回来。我第一次写爬虫项目时就踩过这个坑:误以为`cursor`对象本身存着全部查询结果,反复调用`fetchall()`还奇怪为什么第二次返回空列表——后来才明白,游标执行完一次查询后,结果集是“一次性消费”的,就像打开一罐可乐,倒完就没了,不会自动 refill。 这种设计背后有实际考量。想象你要查一个用户表,里面有50万条记录。如果`cursor`一创建就默认把全部数据加载进内存,那光是初始化游标就要吃掉几百MB内存,程序还没开始处理就卡死了。所以真正的流程是:`cursor.execute()`只发SQL请求、等数据库返回元信息(比如字段名、类型),真正取数据的动作由`fetch*`系列方法按需触发。你可以把它理解成银行柜台——你递上取款单(SQL语句),柜员(数据库)核对后告诉你“可以取”,但钱(数据)并不会自动塞进你口袋,得你主动伸手(调用`fetchone`)才能拿到第一张,再伸手(`fetchmany(10)`)拿十张,或者直接说“全给我”(`fetchall`)。这种“懒加载”机制让小内存机器也能处理大表,也避免了网络传输浪费。 另外要注意,游标和连接是强绑定关系。你不能把A数据库连接创建的游标,拿去执行B数据库的SQL;也不能在`conn.close()`之后还继续用它的游标。我之前维护一个老系统,有个函数里先`conn.close()`再`cursor.fetchall()`,报错信息很隐晦:“OperationalError: cursor already closed”,折腾半小时才定位到关闭顺序错了。所以记住一个铁律:游标的生命期必须严格嵌套在连接的有效期内,就像螺丝刀必须插在对应型号的电动扳手上才能转动,换错了接口根本转不动。 ## 2. 四种取数方式的实际场景选择 `fetchone()`、`fetchmany(n)`、`fetchall()`看着只是参数不同,但在真实业务里选错一个,可能让接口响应时间从200ms飙升到8秒。我做过一个订单导出功能,原始代码直接`fetchall()`拉出12万条记录,内存瞬间涨到1.7GB,用户等得手机都发热了。后来改成`fetchmany(500)`分批处理,内存峰值压到60MB,导出速度反而快了3倍——因为数据库不用一次性组装超大结果集,网络传输也更平滑。 `fetchone()`适合明确知道只要一条数据的场景,比如登录验证时查用户密码哈希值:`cursor.execute("SELECT password_hash FROM users WHERE email = ?", [email])`,后面紧跟`row = cursor.fetchone()`。这里用`fetchall()`就浪费,`fetchmany(1)`又画蛇添足。注意`fetchone()`返回的是元组(即使只有一列),比如`('sha256abc123',)`,不是字符串,解包时容易出错。我习惯加个防御性判断:`if row: password_hash = row[0] else: raise UserNotFound`。 `fetchmany(n)`是性能平衡点。当你要处理中等规模数据(几千到几万行),又不想一次性全载入内存时,它最稳妥。参数`n`不是随便写的,我一般按数据库页大小设为500或1000——这是经过实测的甜点值。太小(如50)会导致频繁IO,太大(如5000)又失去内存优势。举个具体例子:后台任务要批量更新用户积分,先`execute("SELECT id, current_score FROM users WHERE last_login > ?")`,然后循环`while True: batch = cursor.fetchmany(1000); if not batch: break; process_batch(batch)`。这样每批处理完立刻释放内存,GC压力小,数据库连接也不会长时间被占着。 `fetchall()`只推荐三种情况:结果集确定很小(<100行)、做单元测试造数据、或者你真的需要随机访问所有行(比如要按分数排序再取Top10)。有一次我写报表脚本,`fetchall()`后用`sorted(rows, key=lambda x: x[2])`排序,结果发现数据库本身支持`ORDER BY score DESC LIMIT 10`,改完SQL后执行时间从3.2秒降到0.04秒——这提醒我:能推给数据库做的计算,绝不拉到Python里做。表格对比了不同场景的推荐策略: | 场景描述 | 推荐方法 | 关键原因 | 实际案例 | |---------|---------|---------|---------| | 登录校验、唯一ID查询 | `fetchone()` | 避免无谓内存分配,语义清晰 | `SELECT token FROM sessions WHERE user_id=?` | | 导出Excel、批量更新 | `fetchmany(500)` | 内存可控,网络传输稳定 | 处理10万订单状态同步 | | 配置表加载(<50行) | `fetchall()` | 代码简洁,无性能风险 | 加载系统参数字典 | | 流式处理日志(百万级) | `for row in cursor:` | 迭代器模式,内存恒定 | 实时分析Nginx访问日志 | > 提示:`for row in cursor:`这种写法本质是`fetchone()`的语法糖,但更符合Python习惯,且自动处理空结果。不过要注意,它无法跳过前N行或限制总数,灵活性不如显式调用`fetch*`。 ## 3. 事务控制:commit与rollback的实战边界 新手最容易混淆的是:到底什么时候该`commit()`?什么时候该`rollback()`?简单说,**只要SQL修改了数据(INSERT/UPDATE/DELETE),且你希望这些修改永久保存,就必须显式`commit()`**。我见过太多人依赖数据库的自动提交模式(autocommit=True),结果在转账逻辑里漏掉`commit()`,钱转出去了却没落库,半夜被报警电话叫醒。 真实案例:一个电商库存扣减服务,伪代码是: ```python cursor.execute("UPDATE products SET stock = stock - 1 WHERE id = ? AND stock >= 1", [product_id]) if cursor.rowcount == 0: raise InsufficientStock # 这里忘记commit()! ``` 测试环境用sqlite(默认autocommit)没问题,上线MySQL后全量失败——因为InnoDB默认关闭autocommit,连接断开时未提交的修改全回滚。后来加上`conn.commit()`,问题解决。但更好的做法是用上下文管理器: ```python with conn: # 自动commit,异常时自动rollback cursor.execute("UPDATE products ...") cursor.execute("INSERT INTO orders ...") ``` `rollback()`不是补救措施,而是防御性编程。比如处理用户注册时,要同时写users表和profiles表: ```python try: cursor.execute("INSERT INTO users ...") user_id = cursor.lastrowid cursor.execute("INSERT INTO profiles (user_id, ...) VALUES (?, ?)", [user_id, data]) conn.commit() except Exception as e: conn.rollback() # 关键!否则users表已插入,profiles失败,数据不一致 raise ``` 这里`rollback()`保证了原子性:要么两个表都成功,要么都失败。注意`rollback()`只影响当前事务内未提交的更改,对已`commit()`的数据无效。我曾经误以为`rollback()`能撤回昨天的错误更新,结果白忙活两小时——它只对本次连接内、`commit()`前的操作起作用。 还有一个易忽略点:`SELECT`语句在某些隔离级别下也会开启隐式事务。比如PostgreSQL的`REPEATABLE READ`模式,第一个`SELECT`会启动事务,后续操作若不`commit()`或`rollback()`,连接会一直占用事务槽位。我们监控系统曾因此触发连接池耗尽告警,排查发现是某个报表查询忘了关闭游标,导致事务挂起24小时。所以养成习惯:所有DML操作后,明确`commit()`或`rollback()`;纯查询也建议用`with conn:`确保收尾。 ## 4. 资源管理:游标关闭的时机与陷阱 游标不是“用完即焚”,但也不是“永不关闭”。很多人觉得`conn.close()`会自动清理所有关联游标,这没错,但中间过程可能埋雷。比如你在一个长循环里反复创建游标却不关闭: ```python for item in big_list: cursor = conn.cursor() # 每次都新建 cursor.execute("INSERT ...", [item]) # 忘记cursor.close() ``` 在SQLite里可能只是慢一点,在MySQL里可能快速耗尽服务器允许的最大游标数(`max_connections`),新请求直接被拒绝。我线上遇到过最狠的一次:一个定时任务每秒创建10个游标,30分钟后数据库报错“Too many connections”,整个应用雪崩。 正确姿势是“谁创建,谁关闭”。游标应该在数据处理完立即关闭,而不是等连接关闭。最佳实践是用`with`语句: ```python with conn.cursor() as cursor: cursor.execute("SELECT * FROM logs WHERE created_at > ?", [threshold]) for row in cursor: process(row) # 这里cursor自动close(),哪怕process()抛异常也安全 ``` `with`块结束时,游标自动调用`close()`,释放底层资源。注意`conn.cursor()`返回的游标对象支持上下文协议,这是PEP 343明确规定的。 还有个隐蔽陷阱:游标关闭后还能调用`fetch*`吗?答案是“看情况”。SQLite允许关闭后读取已缓存的结果(因为数据早就在内存里),但MySQL Connector/Python会直接抛`ProgrammingError: cursor closed`。所以别依赖这种行为,一律在`close()`前取完数据。我建议在`with`块内完成所有数据消费,把转换逻辑也放进去: ```python with conn.cursor() as cursor: cursor.execute("SELECT name, email FROM users") # 立即转换为字典列表,避免后续处理时游标已关 users = [dict(zip([col[0] for col in cursor.description], row)) for row in cursor] ``` 这里`cursor.description`获取字段名,配合`zip`生成字典,既安全又直观。最后强调一个原则:**游标生命周期越短越好,数据搬运越早完成越好**。就像快递员,送完货(取完数据)就该交还工牌(关闭游标),而不是揣着工牌去喝咖啡。

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

Python内容推荐

以SQLite和PySqlite为例来学习Python DB API

以SQLite和PySqlite为例来学习Python DB API

本文将以SQLite和PySqlite为例来学习Python DB API,pysqlite是一个sqlite为python 提供的api接口,它让一切对于sqlit的操作都变得异常简单

Python操作SQLite数据库的方法详解

Python操作SQLite数据库的方法详解

主要介绍了Python操作SQLite数据库的方法,较为详细的分析了Python安装sqlite数据库模块及针对sqlite数据库的常用操作技巧,需要的朋友可以参考下

在Python中编写数据库模块的教程

在Python中编写数据库模块的教程

主要介绍了在Python中编写数据库模块的教程,本文代码基于Python2.x版本,需要的朋友可以参考下

MySQL-python-1.2.3.win-amd64-py2.7

MySQL-python-1.2.3.win-amd64-py2.7

python连接mysql数据库驱动,python连接mysql数据库驱动,python连接mysql数据库驱动

python数据库管理应用实例

python数据库管理应用实例

一个用python语言实现的数据库管理实例,里面有各种语句用法的解释及注释

在Python中使用SQLite的简单教程

在Python中使用SQLite的简单教程

主要介绍了在Python中使用SQLite的简单教程,SQLite作为嵌入式数据库被内置于历代Python版本中,需要的朋友可以参考下

python+sqltile3

python+sqltile3

NULL 博文链接:https://smile3019.iteye.com/blog/2308858

Python-遵循PythonDBAPI20规范的Oracle数据库的Python接口

Python-遵循PythonDBAPI20规范的Oracle数据库的Python接口

遵循Python DB API 2.0规范的Oracle数据库的Python接口

Python连接SQLServer2000的方法详解

Python连接SQLServer2000的方法详解

主要介绍了Python连接SQLServer2000的方法,结合实例形式分析了Python实现数据库连接过程中所遇到的常见问题与相关注意事项,需要的朋友可以参考下

Pytho_CRUD:Aprendiendo Python和BBDD

Pytho_CRUD:Aprendiendo Python和BBDD

Pytho_CRUD:Aprendiendo Python和BBDD

python小项目,用于查询数据库

python小项目,用于查询数据库

python小项目,用于查询数据库

光标python

光标python

光标python

2021_w_.1.python 驱动MySQLdb(create_engine)代码.pdf

2021_w_.1.python 驱动MySQLdb(create_engine)代码.pdf

2021_w_.1.python 驱动MySQLdb(create_engine)代码

pypyodbc.zip很好用的Python ODBC库

pypyodbc.zip很好用的Python ODBC库

使用这个库可以很轻松操作mdb数据库

带你彻底搞懂python操作mysql数据库(cursor游标讲解)

带你彻底搞懂python操作mysql数据库(cursor游标讲解)

主要介绍了带你彻底搞懂python操作mysql数据库(cursor游标讲解),文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧

Python SQlite_python

Python SQlite_python

Python SQlite数据库导入和读取

Python标准库之sqlite3使用实例

Python标准库之sqlite3使用实例

主要介绍了Python标准库之sqlite3使用实例,本文讲解了创建数据库、插入数据、查询数据、更新与删除数据操作实例,需要的朋友可以参考下

Python开发SQLite3数据库相关操作详解【连接,查询,插入,更新,删除,关闭等】

Python开发SQLite3数据库相关操作详解【连接,查询,插入,更新,删除,关闭等】

主要介绍了Python开发SQLite3数据库相关操作,结合实例形式较为详细的分析了Python操作SQLite3数据库的连接,查询,插入,更新,删除,关闭等相关操作技巧,需要的朋友可以参考下

Python实现读取TXT文件数据并存进内置数据库SQLite3的方法

Python实现读取TXT文件数据并存进内置数据库SQLite3的方法

主要介绍了Python实现读取TXT文件数据并存进内置数据库SQLite3的方法,涉及Python针对txt文件的读取及sqlite3数据库的创建、插入、查询等相关操作技巧,需要的朋友可以参考下

Python之SQLite数据库应用简单应用与讲解.doc

Python之SQLite数据库应用简单应用与讲解.doc

Python之SQLite数据库应用简单应用与讲解.doc

最新推荐最新推荐

recommend-type

pandas DataFrame实现几列数据合并成为新的一列方法

今天小编就为大家分享一篇pandas DataFrame实现几列数据合并成为新的一列方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
recommend-type

Python学习笔记之pandas索引列、过滤、分组、求和功能示例

主要介绍了Python学习笔记之pandas索引列、过滤、分组、求和功能,结合实例形式分析了Python针对抓取保存的csv数据使用pandas进行索引列、过滤、分组、求和等操作的相关实现技巧,需要的朋友可以参考下
recommend-type

pandas 选取行和列数据的方法详解

前言 本文介绍在 pandas 中如何读取数据行列的方法。数据由行和列组成,在数据库中,一般行被称作记录 (record),列被称作字段 (field)。回顾一下我们对记录和字段的获取方式:一般情况下,字段根据名称获取,记录根据筛选条件获取。比如获取 student_id 和 studnent_name 两个字段;记录筛选,比如 sales_amount 大于 10000 的所有记录。对于熟悉 SQL 语句的人来说,就是下面的语句: select student_id, student_name from exam_scores where chinese >= 90 and math >
recommend-type

从pandas一个单元格的字符串中提取字符串方式

以titanic数据集为例。 其中name列是字符串,现在想从其中提取title作为新的一列。 例如: # create new Title column df['Title'] = df['Name'].str.extract('([A-Za-z]+)\.', expand=True) 提取其中的title作为新的一列。 以上就是对从pandas的单元格中提取字符串的认识。 这篇从pandas一个单元格的字符串中提取字符串方式就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持软件开发网。 您可能感兴趣的文章:pandas
recommend-type

pandas读取CSV文件时查看修改各列的数据类型格式

主要介绍了pandas读取CSV文件时查看修改各列的数据类型格式,本文给大家介绍的非常详细,具有一定的参考借鉴价值,需要的朋友可以参考下
recommend-type

学生成绩管理系统C++课程设计与实践

资源摘要信息:"学生成绩信息管理系统-C++(1).doc" 1. 系统需求分析与设计 在进行学生成绩信息管理系统开发前,首先需要进行系统需求分析,这是确定系统开发目标与范围的过程。需求分析应包括数据需求和功能需求两个方面。 - 数据需求分析: - 学生成绩信息:需要收集学生的姓名、学号、课程成绩等数据。 - 数据类型和长度:明确每个数据项的数据类型(如字符串、整型等)和长度,例如学号可能是字符串类型且长度为一定值。 - 描述:详细描述每个数据项的意义,以确保系统能够准确处理。 - 功能需求分析: - 列出功能列表:用户界面应提供清晰的操作指引,列出所有可用功能。 - 查询学生成绩:系统应能通过学号或姓名查询学生的成绩信息。 - 增加学生成绩信息:允许用户添加未保存的学生成绩信息。 - 删除学生成绩信息:能够通过学号或姓名删除已经保存的成绩信息。 - 修改学生成绩信息:通过学号或姓名修改已有的成绩记录。 - 退出程序:提供安全退出程序的选项,并确保所有修改都已保存。 2. 系统设计 系统设计阶段主要完成内存数据结构设计、数据文件设计、代码设计、输入输出设计、用户界面设计和处理过程设计。 - 内存数据结构设计: - 使用链表结构组织内存中的数据,便于动态增删查改操作。 - 数据文件设计: - 选择文本文件存储数据,便于查看和编辑。 - 代码设计: - 根据功能需求,编写相应的函数和模块。 - 输入输出设计: - 设计简洁明了的输入输出提示信息和操作流程。 - 用户界面设计: - 用户界面应为字符界面,方便在命令行环境下使用。 - 处理过程设计: - 设计数据处理流程,确保每个操作都有明确的处理逻辑。 3. 系统实现与测试 实现阶段需要根据设计阶段的成果编写程序代码,并进行系统测试。 - 程序编写: - 完成系统设计中所有功能的程序代码编写。 - 系统测试: - 设计测试用例,通过测试用例上机测试系统。 - 记录测试方法和测试结果,确保系统稳定可靠。 4. 设计报告撰写 最后,根据系统开发的各个阶段,撰写详细的设计报告。 - 系统描述:包括问题说明、数据需求和功能需求。 - 系统设计:详细记录内存数据结构设计、数据文件设计、代码设计、输入/输出设计、用户界面设计、处理过程设计。 - 系统测试:包括测试用例描述、测试方法和测试结果。 - 设计特点、不足、收获和体会:反思整个开发过程,总结经验和教训。 时间安排: - 第19周(7月12日至7月16日)完成项目。 - 7月9日8:00到计算机学院实验中心(三楼)提交程序和课程设计报告。 指导教师和系主任(或责任教师)需要在文档上签名确认。 系统需求分析: - 使用表格记录系统需求分析的结果,包括数据项、数据类型、数据长度和描述。 - 分析数据项如学生成绩信息、状态器、链表节点等,确定其属性和行为。 以上就是文档中提到的学生成绩信息管理系统开发的关键知识点。开发此类系统需要熟练掌握C++编程基础,了解面向对象的程序设计思想,以及熟悉文件操作和链表等数据结构的应用。此外,良好的软件开发流程意识、测试意识和文档撰写能力也是必不可少的。
recommend-type

别再手动拖拽了!用Lumerical脚本批量创建FDTD仿真结构(附完整代码)

# 告别低效建模:Lumerical脚本自动化实战指南 在光子学仿真领域,时间就是科研生命线。当同行还在GUI界面里反复点击菜单时,你已经用脚本批量生成了20组参数化结构——这不是未来场景,而是每位FDTD用户都应该掌握的基础生产力革命。本文将彻底改变你与Lumerical的交互方式,从手动拖拽的农耕时代,跃迁到自动化建模的工业文明。 ## 1. 为何脚本建模是必然选择 2019年Nature Photonics的一项研究显示,科研工作者在仿真工具上平均浪费37%的时间在重复性操作上。对于需要参数扫描的纳米光学结构设计,这个数字可能更高。手动创建10个不同尺寸的纳米柱阵列意味着: -
recommend-type

Java邮件解析任务中,如何安全高效地提取HTML邮件内容并避免硬编码、资源泄漏和类型转换异常?

<think>我们被要求优化一段Java代码,该代码用于处理邮件(特别是来自特定发件人的构建通知邮件)。代码的主要问题包括: 1. 重复获取邮件内容:在检查MIME类型后,多次调用`msg[i].getContent()`,这可能导致性能问题或流关闭异常。 2. 类型转换问题:直接将邮件内容转换为`Multipart`而不进行类型检查,可能引发`ClassCastException`。 3. 代码结构问题:逻辑嵌套过深,可读性差,且存在重复代码(如插入邮件详情的操作在两个地方都有)。 4. 硬编码和魔法值:例如在解析HTML表格时使用了硬编码的索引(如list3.get(10)),这容易因邮件
recommend-type

RH公司应收账款管理优化策略研究

资源摘要信息:"本文针对RH公司的应收账款管理问题进行了深入研究,并提出了改进策略。文章首先分析了应收账款在企业管理中的重要性,指出其对于提高企业竞争力、扩大销售和充分利用生产能力的作用。然后,以RH公司为例,探讨了公司应收账款管理的现状,并识别出合同管理、客户信用调查等方面的不足。在此基础上,文章提出了一系列改善措施,包括完善信用政策、改进业务流程、加强信用调查和提高账款回收力度。特别强调了建立专门的应收账款回收部门和流程的重要性,并建议在实际应用过程中进行持续优化。同时,文章也意识到企业面临复杂多变的内外部环境,因此提出的策略需要根据具体情况调整和优化。 针对财务管理领域的专业学生和从业者,本文提供了一个关于应收账款管理问题的案例研究,具有实际指导意义。文章还探讨了信用管理和征信体系在应收账款管理中的作用,强调了它们对于提升企业信用风险控制和市场竞争能力的重要性。通过对比国内外企业在应收账款管理上的差异,文章总结了适合中国企业实际环境的应收账款管理方法和策略。" 根据提供的文件内容,以下是详细的知识点: 1. 应收账款管理的重要性:应收账款作为企业的一项重要资产,其有效管理关系到企业的现金流、财务健康以及市场竞争力。不良的应收账款管理会导致资金链断裂、坏账损失增加等问题,严重影响企业的正常运营和长远发展。 2. 应收账款的信用风险:在信用交易日益频繁的商业环境中,企业必须对客户信用进行评估,以便采取合理的信用政策,降低信用风险。 3. 合同管理的薄弱环节:合同是应收账款管理的法律基础,严格的合同管理能够保障企业权益,减少因合同问题导致的应收账款风险。 4. 客户信用调查:了解客户的信用状况对于预测和控制应收账款风险至关重要。企业需要建立有效的客户信用调查机制,识别和筛选信用良好的客户。 5. 应收账款回收策略:企业应建立有效的账款回收机制,包括定期的账款跟进、逾期账款的催收等。同时,建立专门的应收账款回收部门可以提升回收效率。 6. 应收账款管理流程优化:通过改进企业内部管理流程,如简化审批流程、提高工作效率等措施,能够提升应收账款的管理效率。 7. 应收账款管理策略的调整和优化:由于企业的内外部环境复杂多变,因此制定的管理策略需要根据实际情况进行动态调整和持续优化。 8. 信用管理和征信体系的作用:建立和完善企业内部信用管理体系和征信体系,有助于企业更好地控制信用风险,并在市场竞争中占据有利地位。 9. 对比国内外应收账款管理实践:通过研究国内外企业在应收账款管理上的不同做法和经验,可以借鉴先进的管理理念和方法,提升国内企业的应收账款管理水平。 综上所述,本文深入探讨了应收账款管理的多个方面,为RH公司乃至其他同类型企业提供了应收账款管理的改进方向和策略,对于财务管理专业的教育和实践都具有重要的参考价值。
recommend-type

新手别慌!用BingPi-M2开发板带你5分钟搞懂Tina Linux SDK目录结构

# 新手别慌!用BingPi-M2开发板带你5分钟搞懂Tina Linux SDK目录结构 第一次拿到BingPi-M2开发板时,面对Tina Linux SDK里密密麻麻的文件夹,我完全不知道从哪下手。就像走进一个陌生的大仓库,每个货架上都堆满了工具和零件,却找不到操作手册。这种困惑持续了整整两天,直到我意识到——理解目录结构比死记硬背每个文件更重要。 ## 1. 为什么SDK目录结构如此重要 想象你正在组装一台复杂的模型飞机。如果所有零件都混在一个箱子里,你需要花大量时间寻找每个螺丝和面板。但如果有分门别类的隔层,标注着"机身部件"、"电子设备"、"紧固件",组装效率会成倍提升。Ti