python爬虫之Splash使用初体验，python爬虫splash,Splash是什么：

python爬虫之Splash使用初体验，python爬虫splash,Splash是什么：

Splash是什么：

　　Splash是一个Javascript渲染服务。它是一个实现了HTTP API的轻量级浏览器，Splash是用Python实现的，同时使用Twisted和QT。Twisted（QT）用来让服务具有异步处理能力，以发挥webkit的并发能力。

为什么要有Splash：

　　为了更加有效的制作网页爬虫，由于目前很多的网页通过javascript模式进行交互，简单的爬取网页模式无法胜任javascript页面的生成和ajax网页的爬取，同时通过分析连接请求的方式来落实局部连接数据请求，相对比较复杂，尤其是对带有特定时间戳算法的页面，分析难度较大，效率不高。而通过调用浏览器模拟页面动作模式，需要使用浏览器，无法实现异步和大规模爬取需求。鉴于上述理由Splash也就有了用武之地。一个页面渲染服务器，返回渲染后的页面，便于爬取，便于规模应用。

安装条件：

安装：

　　首先点击下面链接，从docker官网上下载windows下的docker进行安装，不过请注意系统要求是**windows1064位 pro及以上版本或者教育版

　　官网下载：https://store.docker.com/editions/community/docker-ce-desktop-windows

　　安装包下载完成后以管理员身份运行。

　　查看信息：

　　#docker info

　　#docker version

　　查看启动的容器

　　在docker中下载安装Splash镜像，并安装

　　#docker pull scrapinghub/splash

　　启动splash服务

#启动splash服务，并通过http，https，telnet提供服务#通常一般使用http模式 ，可以只启动一个8050就好  #Splash 将运行在 0.0.0.0 at ports 8050 (http), 8051 (https) and 5023 (telnet).docker run -p 5023:5023 -p 8050:8050 -p 8051:8051 scrapinghub/splash

参考链接：https://www.jianshu.com/p/4052926bc12c

python爬虫之Splash使用初体验