python爬虫教程 什么是python爬虫

写爬虫总是非常吸引it学习者，毕竟光听起来就很酷炫极客，我也知道很多人学完基础知识之后，第一个项目开发就是自己写一个爬虫玩玩。其实懂了之后，写个爬虫脚本是很简单的，但是对于新手来说却并不是那么容易。给那些想学写爬虫，却苦于没有详细教程的小伙伴推荐5个爬虫教程，都是基于python语言开发的，因此可能更适合有一定python基础的人进行学习。

python爬虫教程——什么是python爬虫

网络爬虫（又被称为网页蜘蛛，网络机器人，在foaf社区中间，更经常的称为网页追逐者），是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。

什么？没看懂？没关系，我来给你解释一下打开一个网页，里面有网页内容吧，想象一下，有个工具，可以把网页上的内容获取下来，存到你想要的地方，这个工具就是我们今天的主角：爬虫。这样是不是更清晰了呢？既然了解了爬虫是什么，那么爬虫是如何爬取数据的呢？

爬虫是哪里爬取数据的

其实所有的网页都是html代码，只不过浏览器将这些代码解析成了上面的网页，我们的小爬虫抓取的其实就是html代码中的文本啦。

这不合理啊，难不成那些图片也是文本？

恭喜你，答对了。回到浏览器中有图的哪个tab页，鼠标右键，点击inspect。会弹出一个面板，点击板左上角的箭头，点击虐狗图片，你会看到下面有红圈圈的地方，是图片的网络地址。图片可以通过该地址保存到本地哦。

你猜的没错，我们的小爬虫抓取的正是网页中的数据，你要知道你想要抓取什么数据，你的目标网站是什么，才可以把想法变成现实的哦。你不能说，我想要这个这个，还有这个，然后数据就自动来了。

另外如果说知识体系里的每一个知识点是图里的点，依赖关系是边的话，那么这个图一定不是一个有向无环图。因为学习a的经验可以帮助你学习b。因此，你不需要学习怎么样“入门”，因为这样的“入门”点根本不存在！你需要学习的是怎么样做一个比较大的东西，在这个过程中，你会很快地学会需要学会的东西的。当然，你可以争论说需要先懂python，不然怎么学会python做爬虫呢？但是事实上，你完全可以在做这个爬虫的过程中学习python:d

在人民日报的首页，你看到那个页面引向的各种链接。于是你很开心地从爬到了“国内新闻”那个页面。太好了，这样你就已经爬完了俩页面（首页和国内新闻）！暂且不用管爬下来的页面怎么处理的，你就想象你把这个页面完完整整抄成了个html放到了你身上。如果大家还想了解更多与之有关的信息，欢迎关注我们文军营销的官网。

推荐阅读