人工精选Spring Boot 2.x 实现《百思不得姐》APP爬虫项目视频课程
这门课解决什么问题 很多做后端开发的人,平时写增删改查很熟练,但遇到“需要自己去抓一批真实数据来测试”或者“要把杂乱数据清洗进数据库”时,就会卡壳。这门课正是针对这种痛点设计的。它以一个具体的APP数据采集项目为主线,完整走通从接口抓包、原始数据下载、JSON解析,到数据清洗转换、最终入库和定时调度
会员 · 按档位
游客按标价购买,不享受上表折扣。
支付成功后自动发放网盘链接,链接失效可找客服免费补
这门课解决什么问题
很多做后端开发的人,平时写增删改查很熟练,但遇到“需要自己去抓一批真实数据来测试”或者“要把杂乱数据清洗进数据库”时,就会卡壳。这门课正是针对这种痛点设计的。它以一个具体的APP数据采集项目为主线,完整走通从接口抓包、原始数据下载、JSON解析,到数据清洗转换、最终入库和定时调度的全流程。它不是教你如何写一个公开的Web接口,而是解决“面对一个没有现成API的APP,怎么合法合规地把数据拿下来、存起来、洗成能用的结构”这个工程问题。如果你平时只停留在调用别人写好的接口,缺乏对数据流转全链路的掌控,这门课能帮你把这块短板补上。
适合什么基础,建议先看哪几块
这门课不适合零基础。你需要有基本的Java语法基础,写过简单的SQL,了解过Maven项目管理。如果你完全没接触过Spring Boot或MyBatis,直接看会有些吃力,建议先补一下基础概念再来看。对于有一定基础的人,建议先看第一部分的抓包和JSON序列化,这两块决定了你能不能把数据成功拿下来。很多人卡在第一步,就是因为不会用抓包工具分析请求参数,或者拿到字符串后不知道怎么映射成对象。看完这两块,再直接跳到ETL部分的数据建模和对象图导航。这部分是核心,它决定了你抓到的数据能不能用。任务调度和日志那块可以最后看,因为那是工程化收尾,不影响核心逻辑。不要按顺序一节节啃,先抓核心数据流,再补外围工程配置。
学完能独立做什么,资料怎么配合
学完后,你应该能独立完成一个中等复杂度的数据采集和清洗任务。具体来说,拿到一个目标APP,你能自己用工具分析它的网络请求,用代码模拟请求抓取原始数据,把JSON转成对象,存到数据库里。然后通过ETL把原始字段清洗、转换成符合业务表的最终结构,再配上定时任务让它自动跑。资料配合上,建议先跟着视频把抓包工具和基础环境搭好,不要只看不动手。第一部分的代码一定要自己敲一遍,尤其是URL爬虫和MyBatis保存那几段,很多坑都在细节里。ETL部分的重点是理解数据建模的思路,不要死记代码,要搞清楚为什么原始表和结果表要分开设计。遇到乱码问题,直接对照课程里讲的处理方法排查,这是常见坑点。最后,把任务调度跑起来,观察日志输出,确保整个流程能闭环。整个学下来,你掌握的是一套完整的数据工程方法论,而不是几个零散的API用法。
课程目录
课程目录19 集
- 1-1 [获取原始数据] 项目介绍 (11:17).mp4
- 1-2 [获取原始数据] Charles 实现APP抓包 (20:46).mp4
- 1-3 [获取原始数据] 基础环境搭建 (15:39).mp4
- 1-4 [获取原始数据] 抓取原始数据 (21:20).mp4
- 1-5 [获取原始数据] JSON序列化与反序列化 (23:11).mp4
- 1-6 [获取原始数据] URL爬虫实现 (32:18).mp4
- 1-7 [获取原始数据] MyBatis保存原始数据 (20:07).mp4
- 2-1 [ETL处理] 数据建模 (28:33).mp4
- 2-2 [ETL处理] 使用MBG简化MyBatis开发 (38:31).mp4
- 2-3 [ETL处理] OGNL对象图导航语言 (33:20).mp4
- 2-4 [ETL处理] 实现ETL (44:27).mp4
- 2-5 [ETL处理] MySQL乱码问题与UTF-8 (21:38).mp4
- 2-6 [ETL处理] 任务调度与日志输出 (25:46).mp4
- 2-7 [ETL处理] 通过事务保证内容完整性 (12:33).mp4
- 3-1 [管理数据] LayUI构建后台管理控制台 (40:42).mp4
- 3-2 [管理数据] 分页与动态查询 (55:34).mp4
- 3-3 [管理数据] 巧用外键约束级联删除数据 (36:38).mp4
- 4-1 [实现预览] Thymeleaf实现预览功能 (59:51).mp4
- 5-1 [配置上线] 配置优化与项目上线 (23:28).mp4





