Python爬虫正则语句求指导，python爬虫语句,刚开始学python，对

文章由Byrx.net分享于2019-03-23 09:03:11评论（418）

Python爬虫正则语句求指导，python爬虫语句,刚开始学python，对


刚开始学python，对爬虫和正则表达式这部分还不是很熟悉。

我现在准备爬取下面这段源码的href和title部分，爬href中的网址后，要在每个网址前面加上"http://www.infoq.com" ，用到的库是urllib2和re.

我现在碰到的问题时，我能够把网址或者title单独爬下来，但是没有办法一起爬下来。同时爬下来后有重复，因为网址和title在下面的源码中出现了两次。我不知道这个正则表达该怎么写才正确。求教各位前辈指点迷津～

    href="/cn/presentations/kanban-instantiation" title="实例化看板">                   <div class="movie">                       <img src="http://cdn.infoqstatic.com/statics_s2_20150424-0221/resource/presentations/kanban-instantiation/zh/mediumimage/Snip20140804_27.png"/>                       <span class="videolength">33:08</span>                   </div>               </a>            <h2 class="itemtitle">                   <a    href="/cn/presentations/kanban-instantiation" title="实例化看板">                       实例化看板                   </a>

一直都是用 urllib + re 写爬虫的。。
楼主可以试一下scrapy

谈一点个人最近写爬虫的看法，可能有点答不对题。
最近和班里的人一起在用python写爬虫，有同学写爬虫的时候用正则表达式去来寻找html元素的方式。但是反应正则表达式有点难，解析起来非常费劲。
正则表达式这个东西我个人的看法是会用就行，实在不行了再自己写。
剩下的很多同学写爬虫都是采用htmlparser和beautifulsoup，就是利用第三方库，这样写起来非常的方便，不用写复杂的正则表达式了。很快就能上手而且效率上也很高。
推荐一篇我入门爬虫的文章，希望对你有帮助
iOS程序员如何使用python写网路爬虫

只是从html里抓数据的话用pyquery比较方便。强烈推荐去看看。
我之前用过一次《Python使用cookielib、urllib2和pyquery模拟登陆本科教学网并抓取数据》

用 xpath，正则能不用尽量不用。

编橙之家文章，

相关内容

评论关闭

最新python问答

python~HOT