python抓取数据后如何清洗

### Python 数据抓取后的数据清洗方法和技巧 #### 1. 处理缺失值 在实际应用中,抓取到的数据可能存在缺失的情况。对于这些情况,可以通过填充默认值、删除含有缺失值的记录或插补法来处理。 ```python import pandas as pd data = {'A': [1, 2, None], 'B': [4, None, 6]} df = pd.DataFrame(data) # 删除含有缺失值的行 cleaned_df_dropna = df.dropna() # 使用均值填补数值型列中的缺失值 mean_value = df['A'].mean() df['A'] = df['A'].fillna(mean_value) ``` #### 2. 移除重复项 当从多个页面获取相同的信息时,可能会引入冗余条目。为了提高后续分析的质量,应当识别并移除这类重复项[^2]。 ```python # 去重操作 cleaned_df_unique = cleaned_df_dropna.drop_duplicates() ``` #### 3. 统一格式 不同网页上的日期时间表达可能不一致;货币单位也可能存在差异。因此,在进一步利用之前,有必要标准化此类字段的内容。 ```python from datetime import datetime def parse_date(date_string): try: return datetime.strptime(date_string, '%Y-%m-%d') except ValueError: return None df['date_column'] = df['date_column'].apply(parse_date) ``` #### 4. 转换数据类型 有时原始HTML文档内的某些属性会被误认为字符串而非数字或其他适当的数据类型。此时应考虑将它们转换成更适合的形式以便于计算与统计。 ```python # 将特定列为整数类型 df['integer_column'] = pd.to_numeric(df['integer_column'], errors='coerce').astype('Int64') # 或者使用 astype 方法直接指定目标类型 df['float_column'] = df['float_column'].astype(float) ``` #### 5. 正则表达式的运用 正则表达式是一种强大的工具,可用于清理文本数据中的噪声字符(如多余的空白符)、提取有用的部分以及验证输入的有效性等。 ```python import re pattern = r'\s+' # 定义匹配连续空格的模式 replacement = ' ' # 替换成单个空格 df['text_column'] = df['text_column'].str.replace(pattern, replacement, regex=True).str.strip() ```

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

Python内容推荐

Python爬虫入门实战课程项目通过多个实例教学掌握网络数据抓取技能与商业分析应用_大数据时代Python编程网络爬虫原理数据抓取技术网页解析反爬虫策略数据清洗与存储.zip

Python爬虫入门实战课程项目通过多个实例教学掌握网络数据抓取技能与商业分析应用_大数据时代Python编程网络爬虫原理数据抓取技术网页解析反爬虫策略数据清洗与存储.zip

Python爬虫入门实战课程项目通过多个实例教学掌握网络数据抓取技能与商业分析应用_大数据时代Python编程网络爬虫原理数据抓取技术网页解析反爬虫策略数据清洗与存储.zip

Python爬虫入门实战课程项目通过多个实际案例教学从零开始掌握使用Python编程语言进行网络数据抓取与分析的核心技能涵盖网页解析数据提取清洗存储及简单可视化全流程重.zip

Python爬虫入门实战课程项目通过多个实际案例教学从零开始掌握使用Python编程语言进行网络数据抓取与分析的核心技能涵盖网页解析数据提取清洗存储及简单可视化全流程重.zip

Python爬虫入门实战课程项目通过多个实际案例教学从零开始掌握使用Python编程语言进行网络数据抓取与分析的核心技能涵盖网页解析数据提取清洗存储及简单可视化全流程重.zip

Python爬虫入门实战课程项目通过多个实际案例教学从零基础开始系统学习Python网络数据抓取技术涵盖网页解析数据提取反爬虫策略应对数据存储与清洗等核心技能结合商业.zip

Python爬虫入门实战课程项目通过多个实际案例教学从零基础开始系统学习Python网络数据抓取技术涵盖网页解析数据提取反爬虫策略应对数据存储与清洗等核心技能结合商业.zip

Python爬虫入门实战课程项目通过多个实际案例教学从零基础开始系统学习Python网络数据抓取技术涵盖网页解析数据提取反爬虫策略应对数据存储与清洗等核心技能结合商业.zip

Python爬虫入门实战课程项目_通过Python编程语言实现网络数据抓取与解析技术涵盖HTTP请求发送网页结构分析数据提取与清洗反爬虫策略应对及数据存储等核心模块包含静.zip

Python爬虫入门实战课程项目_通过Python编程语言实现网络数据抓取与解析技术涵盖HTTP请求发送网页结构分析数据提取与清洗反爬虫策略应对及数据存储等核心模块包含静.zip

Python爬虫入门实战课程项目_通过Python编程语言实现网络数据抓取与解析技术涵盖HTTP请求发送网页结构分析数据提取与清洗反爬虫策略应对及数据存储等核心模块包含静.zip

Python_Crawler项目是一个专注于网络爬虫技术及其相关数据处理流程的综合性开源工具库它集成了从网页数据抓取到数据清洗再到深度数据分析的全套解决方案旨在帮助开发者高效地.zip

Python_Crawler项目是一个专注于网络爬虫技术及其相关数据处理流程的综合性开源工具库它集成了从网页数据抓取到数据清洗再到深度数据分析的全套解决方案旨在帮助开发者高效地.zip

Python_Crawler项目是一个专注于网络爬虫技术及其相关数据处理流程的综合性开源工具库它集成了从网页数据抓取到数据清洗再到深度数据分析的全套解决方案旨在帮助开发者高效地.zip

Python网络数据抓取与信息自动化采集实战入门课程项目_涵盖Python基础语法HTTP协议原理网页结构解析反爬虫机制应对策略数据清洗与存储技术Scrapy框架应用S.zip

Python网络数据抓取与信息自动化采集实战入门课程项目_涵盖Python基础语法HTTP协议原理网页结构解析反爬虫机制应对策略数据清洗与存储技术Scrapy框架应用S.zip

Python网络数据抓取与信息自动化采集实战入门课程项目_涵盖Python基础语法HTTP协议原理网页结构解析反爬虫机制应对策略数据清洗与存储技术Scrapy框架应用S.zip

Python爬虫入门实战课程从零基础到掌握数据抓取技能通过多个实际案例教学涵盖网页解析数据提取反爬虫策略应对数据存储与清洗全流程适合初学者系统学习网络数据采集技术应.zip

Python爬虫入门实战课程从零基础到掌握数据抓取技能通过多个实际案例教学涵盖网页解析数据提取反爬虫策略应对数据存储与清洗全流程适合初学者系统学习网络数据采集技术应.zip

Python爬虫入门实战课程从零基础到掌握数据抓取技能通过多个实际案例教学涵盖网页解析数据提取反爬虫策略应对数据存储与清洗全流程适合初学者系统学习网络数据采集技术应.zip

基于Python编程语言与网络数据抓取技术构建的入门级实战教程项目_涵盖网页解析数据提取自动化请求处理反爬虫策略应对数据清洗与存储等核心知识点_旨在帮助零基础学习者系统掌握.zip

基于Python编程语言与网络数据抓取技术构建的入门级实战教程项目_涵盖网页解析数据提取自动化请求处理反爬虫策略应对数据清洗与存储等核心知识点_旨在帮助零基础学习者系统掌握.zip

基于Python编程语言与网络数据抓取技术构建的入门级实战教程项目_涵盖网页解析数据提取自动化请求处理反爬虫策略应对数据清洗与存储等核心知识点_旨在帮助零基础学习者系统掌握.zip

Python爬虫入门实战课程项目_通过Python编程语言实现网络数据抓取与解析技术涵盖HTTP请求发送网页结构解析反爬虫策略应对数据清洗存储等核心模块包含静态网页抓取.zip

Python爬虫入门实战课程项目_通过Python编程语言实现网络数据抓取与解析技术涵盖HTTP请求发送网页结构解析反爬虫策略应对数据清洗存储等核心模块包含静态网页抓取.zip

Python爬虫入门实战课程项目_通过Python编程语言实现网络数据抓取与解析技术涵盖HTTP请求发送网页结构解析反爬虫策略应对数据清洗存储等核心模块包含静态网页抓取.zip

基于Python的全国天气数据爬虫工具_使用requests和bs4库从httpmtianqicom抓取实时天气信息_通过pandas处理和清洗数据并保存为CSV格式文件.zip

基于Python的全国天气数据爬虫工具_使用requests和bs4库从httpmtianqicom抓取实时天气信息_通过pandas处理和清洗数据并保存为CSV格式文件.zip

基于Python的全国天气数据爬虫工具_使用requests和bs4库从httpmtianqicom抓取实时天气信息_通过pandas处理和清洗数据并保存为CSV格式文件.zip

Python分布式爬虫打造搜索引擎-基于Scrapy框架实现多节点协同抓取与数据解析-内容关键词包括网页抓取数据清洗索引构建搜索算法优化分布式任务调度反爬虫策略数据存储.zip

Python分布式爬虫打造搜索引擎-基于Scrapy框架实现多节点协同抓取与数据解析-内容关键词包括网页抓取数据清洗索引构建搜索算法优化分布式任务调度反爬虫策略数据存储.zip

Python分布式爬虫打造搜索引擎_基于Scrapy框架实现多节点协同抓取与数据解析_内容关键词包括网页抓取数据清洗索引构建搜索算法优化分布式任务调度反爬虫策略数据存储.zipVue 后台管理系统

每日报告自动生成与多平台智能发布系统_基于Python自动化脚本与Flask轻量级Web框架结合APScheduler定时任务模块实现日报数据抓取清洗与格式化处理集成Markdow.zip

每日报告自动生成与多平台智能发布系统_基于Python自动化脚本与Flask轻量级Web框架结合APScheduler定时任务模块实现日报数据抓取清洗与格式化处理集成Markdow.zip

每日报告自动生成与多平台智能发布系统_基于Python自动化脚本与Flask轻量级Web框架结合APScheduler定时任务模块实现日报数据抓取清洗与格式化处理集成Markdow.zip

Python网络爬虫练习项目-网页数据抓取与解析-自动化信息采集与存储-用于学习Python爬虫技术并实践数据抓取与分析-包含多线程爬虫-反爬虫策略应对-数据清洗与存储-模拟登录与.zip

Python网络爬虫练习项目-网页数据抓取与解析-自动化信息采集与存储-用于学习Python爬虫技术并实践数据抓取与分析-包含多线程爬虫-反爬虫策略应对-数据清洗与存储-模拟登录与.zip

Python网络爬虫练习项目_网页数据抓取与解析_自动化信息采集与存储_用于学习Python爬虫技术并实践数据抓取与分析_包含多线程爬虫_反爬虫策略应对_数据清洗与存储_模拟登录与.zip嵌入式开发底层驱动与外设配置

基于Python与SpringBoot构建的Buff饰品价格自动化监控与数据采集系统_整合了高效网络爬虫技术实时数据抓取多线程并发处理反爬虫策略应对数据清洗与存储RES.zip

基于Python与SpringBoot构建的Buff饰品价格自动化监控与数据采集系统_整合了高效网络爬虫技术实时数据抓取多线程并发处理反爬虫策略应对数据清洗与存储RES.zip

基于Python与SpringBoot构建的Buff饰品价格自动化监控与数据采集系统_整合了高效网络爬虫技术实时数据抓取多线程并发处理反爬虫策略应对数据清洗与存储RES.zip

基于Python爬虫对政府开放数据平台数据质量分析_利用网络爬虫技术快速抓取政府开放数据平台上的各类数据集_对数据进行清洗和整理包括标记空值填充null值以及对不规范的日期数据进行.zip

基于Python爬虫对政府开放数据平台数据质量分析_利用网络爬虫技术快速抓取政府开放数据平台上的各类数据集_对数据进行清洗和整理包括标记空值填充null值以及对不规范的日期数据进行.zip

基于Python爬虫对政府开放数据平台数据质量分析_利用网络爬虫技术快速抓取政府开放数据平台上的各类数据集_对数据进行清洗和整理包括标记空值填充null值以及对不规范的日期数据进行.zip

Python爬虫开发与项目实战书籍配套源码与详细说明-网络数据抓取自动化脚本网页解析数据存储反爬虫策略多线程处理分布式爬虫API接口调用数据清洗与处理实战案例解析.zip

Python爬虫开发与项目实战书籍配套源码与详细说明-网络数据抓取自动化脚本网页解析数据存储反爬虫策略多线程处理分布式爬虫API接口调用数据清洗与处理实战案例解析.zip

Python爬虫开发与项目实战书籍配套源码与详细说明_网络数据抓取自动化脚本网页解析数据存储反爬虫策略多线程处理分布式爬虫API接口调用数据清洗与处理实战案例解析.zipAI + 数据分析助手

基于Python的51JOB招聘数据爬取与清洗分析系统_网络爬虫数据抓取数据预处理数据可视化数据分析柱状图折线图热力图饼图词云图_用于大学生期末作业展示Python数据处理能力与可.zip

基于Python的51JOB招聘数据爬取与清洗分析系统_网络爬虫数据抓取数据预处理数据可视化数据分析柱状图折线图热力图饼图词云图_用于大学生期末作业展示Python数据处理能力与可.zip

基于Python的51JOB招聘数据爬取与清洗分析系统_网络爬虫数据抓取数据预处理数据可视化数据分析柱状图折线图热力图饼图词云图_用于大学生期末作业展示Python数据处理能力与可.zip

数据采集与预处理实验项目_网络爬虫数据抓取文本清洗数据转换数据可视化数据分析_用于教学演示和学术研究数据科学入门实践_IPythonNotebook实现Python编程Pandas.zip

数据采集与预处理实验项目_网络爬虫数据抓取文本清洗数据转换数据可视化数据分析_用于教学演示和学术研究数据科学入门实践_IPythonNotebook实现Python编程Pandas.zip

数据采集与预处理实验项目_网络爬虫数据抓取文本清洗数据转换数据可视化数据分析_用于教学演示和学术研究数据科学入门实践_IPythonNotebook实现Python编程Pandas.zip

基于Python的小红书武汉旅游数据可视化分析项目_小红书数据抓取武汉热门景点武汉美食推荐数据清洗数据可视化热力图柱状图饼图用户评论分析旅游攻略生成_帮助用户了解.zip

基于Python的小红书武汉旅游数据可视化分析项目_小红书数据抓取武汉热门景点武汉美食推荐数据清洗数据可视化热力图柱状图饼图用户评论分析旅游攻略生成_帮助用户了解.zip

基于Python的小红书武汉旅游数据可视化分析项目_小红书数据抓取武汉热门景点武汉美食推荐数据清洗数据可视化热力图柱状图饼图用户评论分析旅游攻略生成_帮助用户了解.zip

基于Python的知网区块链文献数据爬取与分析系统_使用PyCharm和JupyterNotebook环境实现数据抓取清洗处理及可视化_通过共被引网络分析作者合作网络共词网络情感.zip

基于Python的知网区块链文献数据爬取与分析系统_使用PyCharm和JupyterNotebook环境实现数据抓取清洗处理及可视化_通过共被引网络分析作者合作网络共词网络情感.zip

基于Python的知网区块链文献数据爬取与分析系统_使用PyCharm和JupyterNotebook环境实现数据抓取清洗处理及可视化_通过共被引网络分析作者合作网络共词网络情感.zip

最新推荐最新推荐

recommend-type

(共83页PPT)企业年会活动抽奖快闪模板.pptx

(共83页PPT)企业年会活动抽奖快闪模板.pptx
recommend-type

代办清单:利用 AI Agent 从零开发并打包一款软件 Demo

代办清单:利用 AI Agent 从零开发并打包一款软件 Demo
recommend-type

国央企创新负责人如何提升内部技术成果的转化效率?.docx

科易网基于AI模型+行业大数据,在技术转移、成果转化、技术经纪、知识产权、产业创新、科技招商等垂直领域的多样化应用场景,推出科技创新领域的AI+工具与数智化解决方案,推动科技创新与产业创新智能化发展。
recommend-type

C++小游戏汇总(12in1)

C++小游戏汇总(12in1)
recommend-type

(共82页PPT)装饰精装修施工工艺流程手册.ppt

(共82页PPT)装饰精装修施工工艺流程手册.ppt
recommend-type

DataWare:基于Node.js的轻量级桶状结构数据存储与检索库,支持高效索引与前端后端持久化

DataWare作为一个基于Node.js的轻量级数据存储与检索库,其核心设计理念融合了现代前端与后端开发中对本地化、低耦合、高响应性数据持久化方案的迫切需求。它并非传统意义上的全功能数据库(如MongoDB、PostgreSQL或SQLite),而是一种面向应用层抽象的数据组织范式——以“桶(Bucket)”为基本逻辑单元构建可嵌套、可命名、可索引的数据容器体系。这种桶状结构本质上借鉴了对象存储系统(如Amazon S3、MinIO)的设计哲学,但将其高度精简并运行于单进程内存+文件系统上下文中,从而在不依赖外部服务、无需配置复杂环境的前提下,实现开箱即用的数据管理能力。 在技术实现层面,DataWare依托Node.js的异步I/O模型与V8引擎的高性能执行能力,采用纯JavaScript编写,兼容CommonJS与ES Module规范,支持在服务端(Node.js运行时)和现代浏览器端(通过Webpack/Vite等打包工具配合fs/promises polyfill或IndexedDB适配层)双环境部署。其“轻量级”特性体现在多个维度:代码体积通常控制在100KB以内(压缩后小于30KB),无外部原生依赖,零配置启动;数据默认以JSON序列化形式落盘,支持自动版本快照、增量写入与原子性事务保障;同时内置基于内存映射(Memory-Mapped Cache)的读取加速机制,在首次加载桶数据后构建LRU缓存索引,显著降低重复查询延迟。 所谓“桶状结构”,是指DataWare将数据按业务语义划分为若干逻辑隔离区(即Bucket),每个Bucket拥有独立的元数据描述(如创建时间、更新时间、访问权限标记、自定义Schema约束等),支持嵌套子桶(Bucket Nesting),形成树状命名空间(例如 users/profiles/active、logs/errors/2024/Q3)。每个桶内部采用键值对(Key-Value)为主干结构,但扩展支持文档型数据模型:允许存储任意深度嵌套的JavaScript对象,并通过路径表达式(如 `user.profile.address.city`)进行精准定位;同时提供类MongoDB风格的查询语法(如 `$eq`, `$gt`, `$in`, `$regex`, `$text`),结合内置的倒排索引(Inverted Index)与B+树辅助索引模块,使全文搜索、范围查询、模糊匹配等操作均可在毫秒级完成,即便面对万级文档规模仍保持亚百毫秒响应。 在索引机制方面,DataWare区别于简单遍历式检索,其默认启用多维索引策略:基础字段自动建立哈希索引用于等值查找;数值型与日期型字段额外构建有序索引以支撑范围扫描;字符串字段则根据长度与使用频率智能启用前缀索引或全文分词索引(基于轻量级中文分词器或Unicode标准断词规则)。开发者还可通过`.createIndex()`方法显式声明复合索引(Compound Index),例如 `{ status: 1, createdAt: -1 }`,极大提升多条件联合查询效率。此外,DataWare支持实时监听(Watch API),可通过`bucket.watch({ filter, options })`订阅特定路径下的增删改事件,适用于状态同步、审计日志、响应式UI更新等场景。 在实际工程应用中,DataWare特别适用于以下典型场景:第一,前端离线应用(PWA)中的本地缓存增强,替代localStorage的容量与查询短板,实现带结构化查询能力的客户端数据库;第二,Electron或Tauri桌面应用中作为嵌入式数据引擎,避免引入SQLite二进制依赖;第三,Node.js微服务中轻量级配置中心、会话存储、临时任务队列的底层载体;第四,原型开发与教学演示中快速搭建具备CRUD+Search能力的数据层,大幅缩短MVP验证周期。其设计哲学强调“约定优于配置”,例如桶名自动转为文件夹路径、键名自动标准化为UTF-8安全字符串、空值与undefined自动归一化处理等,极大降低使用者的认知负荷。 值得注意的是,DataWare虽轻量,却不牺牲可靠性:所有写操作默认启用WAL(Write-Ahead Logging)预写日志机制,崩溃后可自动回放恢复;支持手动/自动备份快照(Snapshot)、差异比对(Diff)、时间旅行式数据回溯;提供完整的TypeScript类型定义文件(.d.ts),支持IDE智能提示与编译期校验;并通过Jest框架覆盖90%以上核心路径的单元测试与集成测试。配套的`dataware-master`源码包包含完整CLI工具链(`npx dataware-cli init`初始化项目、`dataware-cli serve`启动调试服务)、详尽API文档与数十个真实案例(含React/Vue/Svelte集成示例),而`附赠资源.docx`与`说明文件.txt`则进一步补充了部署最佳实践、性能调优参数(如缓存大小阈值、索引刷新间隔、磁盘同步策略)、安全注意事项(敏感字段加密插件接入方式、CSP兼容配置)以及常见问题排错指南。综上所述,DataWare不仅是一个工具库,更是一套面向现代JavaScript生态的数据治理方法论,它重新定义了“轻量”与“强大”的边界,在简洁性、功能性与可维护性之间取得了极具启发性的平衡。
recommend-type

GitHub日榜趋势速报:JS、Python、Rust、Go四语言生态项目拆解与选型指南

## 1. 这份日榜速报到底在解决什么问题 每天早上打开 GitHub Trending 页面,看到的就是一堆仓库名加一句英文简介,点进去还得逐个翻 README、看 commit 活跃度、判断这个项目到底是真在迭代还是只是刷了一波 star。我做技术选型和内容选题这几年,最大的痛点不是找不到项目,而是**筛选成本太高**——一天几十个上榜仓库,真正值得花时间研究的可能就三五个。 这份「GitHub 日榜趋势速报」要干的事情很直接:把当天 Trending 榜单里跟 JavaScript、Python、Rust、Go 这四个语言生态相关的项目捞出来,做一轮快速拆解,告诉你每个项目是干什么的
recommend-type

Stata报错‘id是字符串变量’,为什么xtset不接受文字型ID?

在 Stata 中,当你尝试运行 `. xtset id year` 时遇到了 `string variables not allowed in varlist; id is a string variable r(109)` 错误。这个错误表明你在设置面板数据结构时使用的变量 `id` 是字符串类型的,而 `xtset` 命令只接受数值型变量作为个体标识符。 ### 解释 - ** PANEL 数据**: 在面板数据分析中,通常需要指定两个维度 - 横截面单位 (如个人、公司等) 和时间序列。 - ** xtset 功能**: 它用于声明 panel 数据的组成要素,告诉软件哪些变量代表实
recommend-type

Java外包高效开发实战包:MyBatis-Plus分页CRUD、高频Bug修复与通用工具类集成

该资源标题“Java 外包实战代码包|分页 CRUD+Bug 修复 + 通用工具类”精准概括了其核心价值:面向一线 Java 外包开发者的高复用性、强落地性、低学习成本的工程级实践资产。所谓“外包实战”,并非理论教学或学院派Demo,而是源于真实交付场景——项目周期紧(通常2–6周)、需求变更频繁、客户技术栈陈旧、测试环境缺失、文档极简甚至为零、上线压力大、维护人员流动性高。在此背景下,“直接复制运行”绝非营销话术,而是对代码健壮性、兼容性、可移植性的硬性要求:所有类均需规避JDK版本强依赖(如不滥用Java 17新语法以适配JDK8主流生产环境),避免Spring Boot 3.x等高版本特性(保障与客户现有Spring Boot 2.7.x系统无缝集成),且严格遵循Maven标准结构,无冗余配置、无隐藏依赖、无未声明的第三方jar冲突风险。 “分页 CRUD”是外包系统最基础也最易出错的功能模块。其中,“MyBatisPlus 分页工具类.java”绝非简单调用Page对象,而是深度封装了多场景分页痛点:支持MySQL/Oracle/PostgreSQL三大多源数据库方言自动识别(通过DatabaseIdProvider动态路由);解决物理分页在关联查询(如LEFT JOIN多表)时因COUNT(*)误统计导致页码错乱问题,内置COUNT优化策略(如子查询COUNT或利用SQL_CALC_FOUND_ROWS);兼容前端传参混乱(如page=0或size=-1),自动校验并重置为合法值;集成ThreadLocal实现分页参数透传,避免Controller→Service→Mapper层层传递;更关键的是提供“无感分页”能力——即在原有List<T>查询方法上仅加一行注解@Pageable即可启用分页,无需重构DAO层,极大降低存量系统改造成本。此工具类已通过百万级数据压测,在10万行订单表+5万行用户表JOIN场景下,分页响应稳定控制在120ms内。 “Java 通用 CRUD 模板.java”本质是一套领域驱动的代码生成契约。它不是IDE插件模板,而是定义了从Controller层@RequestMapping命名规范(如/rest/v1/{entity}/list)、DTO校验注解组合(@NotBlank+@Length+自定义@ValidPhone)、Service接口方法签名(如saveWithAudit(UserDTO dto, Long operatorId))、到Mapper XML中动态SQL的标准化写法(统一使用<bind>预处理参数、<choose>替代冗余if嵌套)。尤其强调“审计字段自动化”:创建人、创建时间、更新人、更新时间四字段无需手动set,通过MyBatis-Plus的MetaObjectHandler配合Spring AOP拦截器,在insert/update前自动注入当前登录用户ID及系统时间,且兼容分布式部署下的线程安全(使用SecurityContextHolder获取认证上下文)。该模板已沉淀为团队内部《外包开发规范V3.2》,强制要求所有新项目必须继承BaseController<BaseDTO, BaseVO>泛型基类,确保90%以上增删改查代码零重复。 “Java 外包通用工具类合集.java”是十年踩坑经验的结晶。包含但不限于:① JSON工具——解决fastjson反序列化漏洞(CVE-2022-25845)后平滑迁移至Jackson,封装ObjectMapper单例+线程安全配置(禁用DEFAULT_TYPING、注册白名单Module);② Excel导入导出——基于EasyExcel 3.x,内置百万行内存溢出防护(SAX模式+临时文件缓冲+每5000行flush一次)、空单元格智能补全(根据字段类型填充默认值)、合并单元格解析异常捕获;③ 加密工具——国密SM4前后端联调专用实现(非BouncyCastle魔改版),含CBC/PKCS5Padding标准填充、Base64编码统一处理;④ HTTP客户端——封装OkHttp为RestTemplate替代方案,内置连接池复用、超时分级控制(连接1s/读取3s/写入3s)、失败自动重试(指数退避+熔断降级)。每个方法均附带Javadoc说明适用场景、线程安全性、异常边界(如DateUtil.parseDate()明确标注“仅支持yyyy-MM-dd HH:mm:ss格式,其他抛IllegalArgumentException”)。 “Java 外包 10 大高频 Bug 修复方案.txt”直击外包交付死亡陷阱:① MySQL主从延迟导致的“刚写入即查询为空”——采用业务层双读策略(先查从库,若为空则强制走主库)+Canal监听binlog补偿;② Redis缓存穿透(恶意请求不存在ID)——布隆过滤器前置校验+空值缓存(设置短TTL+随机偏移避免雪崩);③ 定时任务重复执行(XXL-JOB集群未配置执行器路由策略)——基于Redis分布式锁+任务幂等键(md5(jobName+param))双重保障;④ 文件上传OSS签名过期——前端预签名URL有效期动态计算(当前时间+30min,服务端校验时间戳差值≤5min);⑤ MyBatis-Plus逻辑删除失效(updateById忽略@TableLogic)——重写GlobalConfig注入MetaObjectHandler并覆盖updateFill逻辑;⑥ Spring事务失效(异步方法@Transactional不生效)——强制使用TransactionTemplate编程式事务;⑦ 日志敏感信息泄露(打印password字段)——Logback自定义PatternLayout,正则过滤"password|cardNo|idCard"等关键词;⑧ 线程池拒绝策略引发OOM——自定义AbortPolicyWithReport,触发时dump堆内存+发送企业微信告警;⑨ Feign调用超时配置被Ribbon覆盖——明确指定feign.client.config.default.connectTimeout=5000;⑩ Docker容器时区错误导致定时任务偏差——Dockerfile中ADD tzdata:/usr/share/zoneinfo && ENV TZ=Asia/Shanghai。每项方案均附带可验证的单元测试用例及生产环境监控指标(如“缓存穿透拦截率≥99.99%”)。这些内容共同构成了一套可立即植入外包项目的防御性编程体系,将个人经验转化为组织级技术资产,真正实现“少踩坑、少加班”的终极目标。
recommend-type

Linux内核mmap_lock活锁导致per-memcg回收卡死

## 1. 这不是CPU过载,是内核调度逻辑在“原地打转”——一个被 mmap_lock 卡死的 per-memcg 回收现场 你有没有见过这样的现象:30 个 CPU 核心全部 stuck 在内核态,top 里看不到任何用户进程在跑,%sy(system CPU)飙到 99%,但系统却几乎不干正事?内存明明还有大量可回收页,`/proc/meminfo` 里 `PageReclaim` 持续上涨,`pgpgin/pgpgout` 却几乎不动,`kswapd` 看似活跃,实际只回收了区区 32 个页——连一个 128KB 的匿名映射都清不完。这不是硬件故障,也不是 OOM killer 被禁