鱼C论坛

 找回密码
 立即注册
查看: 12386|回复: 122

[作品展示] Python3爬虫框架Scrapy例子

  [复制链接]
发表于 2016-9-15 20:26:49 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
本帖最后由 cuibaowenown2 于 2016-9-15 20:42 编辑

选区_001.png
选区_002.png

python3安装Scrapy:
pip3 install Scrapy
Scrapy文档:
英文文档:http://doc.scrapy.org/en/latest/intro/tutorial.html
中文文档(版本不是最新):http://scrapy-chs.readthedocs.io/zh_CN/1.0/intro/tutorial.html
英文水平好的可以直接看英文文档,英文水平居中的可以结合看,英文水平太差的可以只看中文文档(该文档有部分与最新版有冲突,要注意)

下面给出我自己写的程序的例子:
scrapy.zip (91.05 KB, 下载次数: 90, 售价: 3 鱼币)

简易介绍用法:
scrapy list    ---------- 查看爬虫
scrapy crawl ... ------- 开始用某爬虫爬

或者回复此贴免费下载:
游客,如果您要查看本帖隐藏内容请回复

评分

参与人数 2荣誉 +10 鱼币 +5 贡献 +7 收起 理由
若余相思 + 5 + 5 + 2 感谢楼主无私奉献!
SixPy + 5 + 5 热爱鱼C^_^

查看全部评分

本帖被以下淘专辑推荐:

想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2016-9-15 21:18:21 | 显示全部楼层
。。。。。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2016-9-15 21:44:21 | 显示全部楼层
ython3爬虫框架Scrapy例子 [修改]
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2016-9-15 22:29:03 | 显示全部楼层
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2016-9-16 02:33:59 | 显示全部楼层
编写第一个爬虫
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2016-9-16 08:40:48 | 显示全部楼层
感谢制作教程,学习一下scrapy
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2016-9-16 15:12:32 | 显示全部楼层
学习
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2016-9-16 20:51:02 | 显示全部楼层
看一下咯
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2016-9-19 09:33:16 | 显示全部楼层
谢谢分享!
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2016-9-20 14:21:52 | 显示全部楼层
23333333333333333333333
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2016-9-21 15:29:02 | 显示全部楼层
好东西
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2016-9-22 14:20:34 | 显示全部楼层
重新编译一下好东西
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2016-9-25 20:28:36 | 显示全部楼层
感谢
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2016-9-28 15:46:17 | 显示全部楼层
没有2.7的爬虫吗?好像都是3.x的。。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2016-10-10 11:38:37 | 显示全部楼层
请教一下
我的系统win8-64位,安装的是python3.5,lxml文件已经安装成功(通过.whl的形式安装)
然后我在cmd里执行 pip3 install scrapy后,它在最后显示
error:Unable to find vcvarsall.bat

这个怎么解决?我电脑上已经有MC++ 2008跟2010了,修改.py配置文件也无法解决
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2016-10-10 12:54:11 | 显示全部楼层
学习
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2016-10-21 01:59:55 | 显示全部楼层
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

发表于 2016-10-31 15:26:57 | 显示全部楼层
学习一下
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2016-11-12 20:35:38 | 显示全部楼层
姐姐 能不能爬豆瓣 做个换代理的爬虫?需要学习你的例子。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2016-11-12 20:36:48 | 显示全部楼层
爬豆瓣害羞组的照片啊。。。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-4-19 20:06

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表