python爬虫爬取网页表格数据,python爬虫网页表格
python爬虫爬取网页表格数据,python爬虫网页表格
用python爬取网页表格数据,供大家参考,具体内容如下
from bs4 import BeautifulSoup import requests import csv import bs4 #检查url地址 def check_link(url): try: r = requests.get(url) r.raise_for_status() r.encoding = r.apparent_encoding return r.text except: print('无法链接服务器!!!') #爬取资源 def get_contents(ulist,rurl): soup = BeautifulSoup(rurl,'lxml') trs = soup.find_all('tr') for tr in trs: ui = [] for td in tr: ui.append(td.string) ulist.append(ui) #保存资源 def save_contents(urlist): with open("D:/2016年中国企业500强排行榜.csv",'w') as f: writer = csv.writer(f) writer.writerow(['2016年中国企业500强排行榜']) for i in range(len(urlist)): writer.writerow([urlist[i][1],urlist[i][3],urlist[i][5]]) def main(): urli = [] url = "http://www.maigoo.com/news/463071.html" rs = check_link(url) get_contents(urli,rs) save_contents(urli) main()
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持帮客之家。
相关内容
- 详解Python中如何写控制台进度条的整理,python控制台
- 为什么入门大数据选择Python而不是Java?,pythonjava
- 火车票抢票python代码公开揭秘!,python揭秘
- Python pyinotify日志监控系统处理日志的方法,pythonpyino
- Python 使用with上下文实现计时功能,python上下文
- Python 函数基础知识汇总,python基础知识汇总
- 新手常见6种的python报错及解决方法,新手6种python报
- 用python实现百度翻译的示例代码,python实现示例代码
- python实现简单神经网络算法,python神经网络算法
- python实现日常记账本小程序,python记账本小程序
评论关闭