这门课解决什么工作场景

日常业务里,很多人会卡在数据获取这一环节:公司要批量抓取竞品价格做对比,或者要定期汇总几十个站点的公开信息,靠手动复制粘贴效率极低,写简单的单线程脚本又容易被反爬封禁,跑一晚上也拿不到几条有效结果。这门课针对的就是这类批量数据采集痛点,核心是用 Scrapy 框架搭建分布式爬虫,把单机抓取扩展到多台机器协同,解决抓取效率瓶颈和大规模数据采集的稳定性问题。如果你的工作场景只是偶尔抓几十条数据填表,用普通脚本就够了,没必要学分布式;但如果你需要定期抓取成千上万条结构化数据,或者做竞品监控、舆情采集、行情追踪,这门课的内容能直接对应你的需求。

适合什么基础与建议先看哪几块

从资料结构看,这套内容前半段是 Python 基础语法,从环境搭建、变量、运算符到数据类型都有覆盖,所以零基础转行者也能跟上节奏,不需要提前学过编程。但如果你已经写过 Python 脚本,基础部分快速过一遍就行,重点放在后半段的 Scrapy 框架和分布式调度部分。建议先看开头的实战案例演示,了解整个项目跑通后是什么效果,再回头补语法基础,这样学的时候心里有明确目标,不会陷入语法细节里出不来。对于有数据分析或金融业务背景的上班族,可以直接跳到框架实战部分,结合你日常要处理的业务数据去对照练习。

学完能独立做什么与资料怎么配合练习

学完后你应该能独立完成一个中等规模的数据采集项目:从配置爬虫规则、解析页面结构、处理分页和反爬,到部署分布式调度让多个节点同时跑任务,最终把清洗后的数据存入数据库或导出为结构化文件。资料配合练习的方式建议这样安排:先跟着视频里的案例把环境搭好,每学完一个模块就暂停视频,自己用同类但不同的网站重新跑一遍流程,不要只跟着敲代码。遇到抓不到数据的情况,先看请求头和响应状态,再查解析规则是否匹配,这个过程本身就是爬虫调试的核心能力。整套资料按模块顺序组织,建议按顺序学,基础没打牢直接跳到分布式部分容易卡在环境配置和调度逻辑上。练习时准备两三个真实业务场景里的目标站点,边学边抓,比单纯跟着案例跑更有实感。


python初学者 数据分析师 金融证券从业人员 编程爱好者 大数据从业人员

课程目录

*   01 实战案例演示/

  *   01 实战案例五成果演示.mp4 06:16

*   02 python基础语法/

  *   01 搭建python开发环境.mp4 13:21

  *   02 第一个python程序.mp4 03:34

  *   03 python标识符.mp4 03:29

  *   04 python变量.mp4 03:38

  *   05 python注释.mp4 03:18

  *   06 python多行语句.mp4 02:15

  *   07 同一行显示多条语句.mp4 03:23

  *   08 python行与缩进.mp4 05:41

  *   09 python运算符.mp4 08:37

  *   10 python的输出语句.mp4 06:18

  *   11 python数据类型-数字.mp4 05:57

  *   12 python的输入语句.mp4 03:15

  *   13 python数据类型-字符串.mp4 07:58

  *   14 python数据类型-列表和元组.mp4 07:30

  *   15 python数据类型-集合与字典.mp4 06:49

  *   16 python库的导入.mp4 07:58

  *   17 python的条件语句.mp4 10:11

  *   18 python循环语句.mp4 09:17

  *   19 python的函数.mp4 06:22

  *   20 python的模块.mp4 05:49

*   03 爬虫基础入门教程/

  *   01 安装scrapy框架.mp4 16:23

  *   02 让scrapy框架运行起来.mp4 14:00

  *   03 xpath介绍,开始编写第一个爬虫,请结合下一节补充课程一起.mp4 30:05

  *   04 xpath课程补充.mp4 11:29

  *   05 css选择器介绍,爬虫的另外一种爬取方式.mp4 22:05

  *   06 用scrapy来实现自动翻页并抓去详情.mp4 20:45

*   04 爬取数据的存储,数据库的介绍/

  *   01 安装mysql数据库.mp4 07:10

  *   02 安装navicat可视化工具.mp4 02:23

  *   03 scrapy连接mysql装备工作.mp4 05:09

  *   04 将scrapy爬到的数据写入mysql数据库.mp4 13:25

  *   05 已爬取的数据自动过滤.mp4 03:59

  *   06 mongodb数据库的安装.mp4 04:23

  *   07 安装Robomongo可视化工具.mp4 03:08

  *   08 将scrapy爬到的数据写入mongo数据库.mp4 11:25

  *   09 安装redis及redis-desktop-manager.mp4 08:34

  *   10 将scrpay爬取到的数据写入redis数据库.mp4 09:26

*   05 爬虫的进阶教程/

  *   01 分布式爬虫的搭建1.mp4 15:23

  *   02 分布式爬虫的搭建2.mp4 05:09

  *   03 将scrapy爬取的图片下载到本地硬盘1.mp4 36:22

  *   04 将scrapy爬取的图片下载到本地硬盘2.mp4 01:35

  *   05 设置随机请求头User Agent.mp4 16:40

  *   06 fake-useragent设置User Agent.mp4 08:08

  *   07 设置随机代理ip.mp4 19:08

  *   08 scrapy的cookie功能.mp4 17:14

  *   09 scrapy的url去重复功能.mp4 06:33

  *   10 selenium介绍.mp4 16:48

  *   11 selenium登录网站.mp4 06:50

  *   12 selenium不加载图片.mp4 05:11

*   06 爬虫实战案例/

  *   01 实战一:建立IP池1.mp4 30:05

  *   02 实战一:建立IP池2.mp4 15:52

  *   03 实战二:爬取贴吧QQ.mp4 34:47

  *   04 实战三:通过第三方网站爬取企业信息1.mp4 25:23

  *   05 实战三:通过第三方网站爬取企业信息2.mp4 29:06

  *   06 实战四:爬取当当网图书信息1.mp4 30:30

  *   07 实战四:爬取当当网图书信息2.mp4 36:05

  *   08 实战五:scrapy+selenium爬取整站漫画1.mp4 30:32

  *   09 实战五:scrapy+selenium爬取整站漫画2.mp4 31:18

  *   10 实战五:scrapy+selenium爬取整站漫画3.mp4 21:15

  *   11 实战六:爬虫管家WX机器人1.mp4 12:53

  *   12 实战六:爬虫管家WX机器人2.mp4 15:18