先弄清楚这门课值不值得学

这门课聚焦的是 Python 的 Scrapy 爬虫框架。很多做运营、数据分析或刚转行做后端的人,平时收集业务数据还停留在写单线程 requests 脚本的阶段,一旦要批量抓取几百个页面,程序就频繁卡死或被封,后期清洗存储也全靠手工拼凑。Scrapy 的价值就在于把请求调度、并发控制、数据提取和清洗导出做成了标准化的流水线。如果你平时的工作需要定期从网站提取公开数据来做报表,或者想系统掌握一套能直接复用的数据抓取工程化工具,那这门课的投入产出比是值得的。但如果你只是想偶尔抓几十条数据凑合用,直接写基础脚本就够,没必要学这么重的框架。

资料适合什么基础与学习顺序建议

这套资料不适合零基础。它默认你已经熟悉基本的 Python 语法,能看懂简单的面向对象写法。如果你连基本变量循环都不熟练,建议先补基础再看。对于有语法基础的人,建议按以下顺序推进:先看框架简介与安装部分,把本地环境跑通;接着直接看快速入门,理解引擎和调度器是怎么协同运转的;然后重点看通过选择器提取数据那几节,这是日常干活最核心的能力。学到设置请求头获取豆瓣电影数据那一节时,不要跳过,它解决的是实战中必遇的反爬拦截问题。最后务必跟着看将数据写出至文件的部分,把抓取结果落盘存档,形成闭环。

学完能独立做什么及资料怎么配合练习

跟着资料走完上述流程后,你能独立写出一个完整的抓取项目:从配置初始请求、绕过基础反爬、解析网页提取目标字段,到最终把结构化数据存成文件。这些能力足够应付公司内部的数据监控或市场竞品信息收集。看资料时切忌只看不练,正确的用法是:先快速过一遍视频理解概念,然后自己找一个结构类似的网站,照着课里的代码结构手敲一遍。遇到解析报错或请求被拒,回去看 Debug 模式调试那几节,学会用断点定位问题。把课程里的豆瓣抓取案例当成模板,替换成你实际业务中需要抓取的网站,这样学完才不是纸上谈兵,而是真正变成自己手里的工具。


从0到1掌握 Python 的 Scrapy 爬虫框架,Scrapy分布式以及项目部署轻松搞定

课程目录

*   01 Scrapy爬虫框架学习目标.mp4 (16.76 MB), 04:11

*   02 02-Scrapy简介与安装.mp4 (42.01 MB), 08:38

*   03 Scrapy快速入门.mp4 (80.56 MB), 14:19

*   04 Scrapy通过选择器进行数据提取.mp4 (83.24 MB), 14:38

*   05 Scrapy使用Debug模式调试程序.mp4 (47.44 MB), 08:09

*   06 Scrapy使用Debug模式调试程序快捷方式.mp4 (10.11 MB), 01:41

*   07 Scrapy设置UserAgent获取豆瓣电影数据.mp4 (50.35 MB), 08:32

*   08 Scrapy将豆瓣电影数据写出至文件(Python原生方式&Scrapy内置方式).mp4 (69.37 MB), 10:55

*   09 Scrapy使用ItemPipline完成豆瓣电影数据写出.mp4 (134.90 MB), 23:20

*   10 Scrapy使用ImagesPipline获取ZOL桌面壁纸.mp4 (108.54 MB), 18:13

*   11 Scrapy使用ImagesPipline获取ZOL多张桌面壁纸.mp4 (102.28 MB), 16:47

*   12 Scrapy内置配置讲解.mp4 (86.01 MB), 14:33

*   13 Scrapy案例练习-新笔趣阁小说网.mp4 (145.58 MB), 24:04

*   14 Scrapy案例练习-通过start_requests函数重构代码.mp4 (29.56 MB), 04:21

*   15 ScrapySpider的派生类CrawlSpider的使用.mp4 (87.90 MB), 14:18

*   16 Scrapy的Request和ResponseAPI讲解-百度案例演示.mp4 (58.92 MB), 10:03

*   17 Scrapy的Request和ResponseAPI讲解-快代理Cookie案例.mp4 (62.40 MB), 09:15

*   18 Scrapy的Request和ResponseAPI讲解-使用FormRequest对象登录快代理.mp4 (56.57 MB), 09:08

*   19 Scrapy的DownloadMiddleware之设置UserAgent.mp4 (131.44 MB), 21:02

*   20 Scrapy的DownloadMiddleware之设置Proxy.mp4 (23.44 MB), 03:39

*   21 Scrapy的DownloadMiddleware之使用Selenium.mp4 (131.52 MB), 20:53

*   22 Python操作MongoDB的学习目标.mp4 (8.32 MB), 02:11

*   23 MongoDB概念解析及环境准备.mp4 (23.31 MB), 05:03

*   24 pymongo基本操作-创建连接.mp4 (28.78 MB), 05:29

*   25 pymongo基本操作-操作数据库.mp4 (35.02 MB), 06:45

*   26 pymongo基本操作-操作集合.mp4 (74.80 MB), 12:02

*   27 pymongo基本操作-操作索引.mp4 (88.71 MB), 14:15

*   28 pymongo基本操作-操作文档-插入文档.mp4 (60.92 MB), 10:26

*   29 pymongo基本操作-操作文档-修改文档.mp4 (50.52 MB), 08:29

*   30 pymongo基本操作-操作文档-删除文档.mp4 (20.99 MB), 03:33

*   31 pymongo查询操作-初始化数据及查询所有.mp4 (25.17 MB), 04:55

*   32 pymongo查询操作-and和or.mp4 (32.12 MB), 07:44

*   33 pymongo查询操作-正则表达式.mp4 (41.09 MB), 07:19

*   34 pymongo查询操作-投影.mp4 (17.01 MB), 03:35

*   35 pymongo查询操作-数组.mp4 (21.94 MB), 05:03

*   36 pymongo查询操作-排序.mp4 (47.44 MB), 07:41

*   37 pymongo查询操作-分页和统计.mp4 (34.88 MB), 05:52

*   38 pymongo聚合操作-$match和$group.mp4 (107.26 MB), 17:51

*   39 pymongo聚合操作-$project.mp4 (21.53 MB), 03:45

*   40 pymongo聚合操作-$sort和$limit和$skip.mp4 (27.25 MB), 04:30

*   41 pymongo聚合操作-$sample和$concat和$substr和$toLower和$toUpper.mp4 (43.39 MB), 07:14

*   42 Scrapy案例练习-双色球MongoDB版.mp4 (93.40 MB), 15:44

*   43 Scrapy案例练习-双色球MySQL版.mp4 (42.42 MB), 06:55

*   44 Scrapy案例练习-链家二手房-案例分析.mp4 (72.76 MB), 12:47

*   45 Scrapy案例练习-链家二手房-编码实现.mp4 (205.07 MB), 31:54

*   46 Scrapy分布式-scrapy-redis实现原理讲解.mp4 (33.12 MB), 06:27

*   47 Scrapy分布式-环境准备.mp4 (127.95 MB), 20:40

*   48 Scrapy分布式-分布式爬虫实现方案一.mp4 (133.99 MB), 21:47

*   49 Scrapy分布式-分布式爬虫实现方案二.mp4 (131.91 MB), 21:14

*   50 Scrapy分布式-分布式爬虫实现方案三.mp4 (39.53 MB), 05:58

*   51 Scrapy分布式-Redis数据转存MongoDB.mp4 (25.63 MB), 04:13

*   52 Scrapy项目部署-Scrapyd服务安装与启动.mp4 (32.28 MB), 06:32

*   53 Scrapy项目部署-创建爬虫项目并编写爬虫.mp4 (27.27 MB), 04:53

*   54 Scrapy项目部署-客户端将项目部署至服务器.mp4 (23.54 MB), 04:26

*   55 Scrapy项目部署-部署时产生错误的解决方案.mp4 (26.56 MB), 04:32

*   56 Scrapy项目部署-ScrapydAPI接口演示与界面功能讲解.mp4 (41.13 MB), 07:09