【PY】没有电影看?来教你用Python爬取电影天堂最新电影!,我来教你电影,项目开始第一步仍然是
【PY】没有电影看?来教你用Python爬取电影天堂最新电影!,我来教你电影,项目开始第一步仍然是
项目开始
第一步仍然是创建scrapy项目与spider文件
切换到工作目录两条命令依次输入
scrapy startproject xunleidianyingscrapy genspider xunleiBT https://www.xl720.com/thunder/years/2019
内容分析
打开目标网站(分类是2019年上映的电影),分析我们需要的数据
进入页面是列表的形式就像豆瓣电影一样,然后我们点进去具体页面看看
这个页面就是我们需要拿到的内容页面,我们来看我们需要哪些数据(某些数据从第一个页面就可以获得,但是下载地址必须到第二个页面)
电影名称
电影信息
电影内容剧情
电影下载地址
分析完成之后就可以首先编写 items.py文件
另外别忘了去settings.py中开启 ITEM_PIPELINES 选项
爬虫文件编写
老样子,为了方便测试我们的爬虫,首先编写一个main.py的文件方便IDE调用
main.py:
import scrapy.cmdlinescrapy.cmdline.execute(‘scrapy crawl xunleiBT‘.split())
首先我们先测试直接向目标发送请求是否可以得到响应
爬虫文件 xunleiBT.py编写如下:
运行 main.py 看看会出现什么
好的,发现直接返回正常的网页也就是我们要的网页,说明该网站没有反爬机制,这样我们就更容易爬取了
然后通过xpath定位页面元素,具体就不再赘述,之前的scarpy教程中都有 继续编写爬虫文件
ITEM爬取完成后该干什么?当然是入库保存了,编写pipelines.py文件进行入库保存
再次提醒别忘了去settings.py中开启 ITEM_PIPELINES 选项
pipelines.py文件代码如下:
再次运行main.py 等待运行完成后打开数据库查询
数据保存完成,这次我们一共导入了380个数据,可以愉快的查看电影了
【PY】没有电影看?来教你用Python爬取电影天堂最新电影!
相关内容
- Windows文件名非用反斜杠?Python小技巧帮你解决这个麻烦
- python配置文件configparser详解,config配置文件,Python中一般
- Python Ethical Hacking - VULNERABILITY SCANNER(8),Ethical,Implement
- python3操作excle,python3提取excel数据,1.写操作impor
- 安装python性能检测工具line_profiler,python中line,line_prof
- Python Flask开源个人博客代码,个人博客代码,没有写ht
- python10行代码,让你成功伪装逃过反爬虫程序,python简
- 离线环境升级python及安装模块,python离线安装模块,
- python学习--quote()函数,,屏蔽特殊的字符、比如
- python拉格朗日插值,,#拉格朗日插值代码i
评论关闭