微信号:datapi

介绍:清华大数据产业联合会(数据派)成员秉承“自强不息、行胜于言”,以扎实的理工功底闯荡“数据江湖”,独树一帜.本号定期组织线下活动,独家发布干货内容,分享前沿产业动态.在数据派,一切基于数据说话!

不会编程也能爬数据!3个爬虫小工具教你实现~

2017-11-19 07:30 THU数据派


来源:DataCastle数据城堡

本文经「DataCastle数据城堡」授权转载,禁止二次转载

本文长度为1144个字,建议阅读5分钟

本文为你分享3个爬数据的小工具,零技术基础也能学会呦!


当前的主流爬虫手段是用Python编程,Python的强大毋庸置疑,但初学者学习Python还是需要一两个月时间的。有没有一些更简单的爬取数据方法呢?答案是有的,我们为你准备了如下小工具,对于每个小工具你只需要花十几分钟时间,跟着我的步骤走一遍就可以掌握它啦~


一、Microsoft Excel   


首先教大家一个用Excel爬取数据的方法,这里用的Microsoft Excel 2013版本,下面手把手开始教学~


1. 新建Excel,打开它,如下图所示



2. 点击“数据”——“自网站”



3. 在弹出的对话框中输入目标网址,这里以全国实时空气质量网站(http://www.pm25.in/rank)为例,点击转到,再导入



选择导入位置,确定



4. 结果如下图所示,怎么样,是不是很赞?



5. 如果要实时更新数据,可以在“数据”——“全部更新”——“连接属性”中进行设置,输入更新频率即可



二、Google Sheet


使用Google Sheet爬取数据前,要保证三点:使用Chrome浏览器、拥有Google账号、电脑已翻墙。如果这三个条件具备了的话,下面我们就开始吧~


1. 打开Google Sheet网站:http://www.google.cn/sheets/about/



2. 在首页上点击“转到Google表格”,然后登录自己的账号,可以看到如下界面,再点击“+”创建新的表格



新建的表格如下:



3. 打开要爬取的目标网站,一个全国实时空气质量网站http://www.pm25.in/rank,目标网站上的表格结构如下图所示



4. 回到Google sheet页面,使用函数=IMPORTHTML(网址, 查询, 索引),“网址”就是要爬取数据的目标网站,“查询”中输入“list”或“table”,这个取决于数据的具体结构类型,“索引”填阿拉伯数字,从1开始,对应着网站中定义的哪一份表格或列表


对于我们要爬取的网站,我们在Google sheet的A1单元格中输入函数=IMPORTHTML("http://www.pm25.in/rank","table",1),回车后就爬得数据啦




5. 将爬取好的表格存到本地



是不是感觉超级简单?


三、you-get


这是一个程序员基于python 3开发的项目,已经在github上面开源,支持64个网站,包括优酷、土豆、爱奇艺、b站、酷狗音乐、虾米……总之你能想到的网站都有! 还有一个黑科技的地方,即使是名单上没有的网站,当你输入链接,程序也会猜测你想要下载什么,然后帮你下载。


当然you-get要在python3环境下进行安装,用pip安装好后,在终端输入“you
get+
你想下载资源的链接”就可以等着收藏资源了。


这里给一个you-get的中文使用说明(http://dwz.cn/4rb53l),按照说明上写的按步骤操作就可以啦。


 
THU数据派 更多文章 为了保护你的数据隐私,苹果出了一份报告... 独家 | 千亿交易额考验下的智慧物流 一窥Twitter产品链,数据科学家怎样在各类公司发挥作用? 我们整理了2017年最新政府大数据应用案例! 2017年最受欢迎的10个编程挑战网站
猜您喜欢 你的冰箱被绑架了 【Hackathon】创造下一个小米, 打造视频通话“黑科技” 图像风格化技术(1) iOS自学:一个android程序猿的ios开发之路 36氪早报 | 俄罗斯禁用微信;ofo欲向凤凰采购500万辆自行车;百度外卖或卖身顺丰