鱼C论坛

 找回密码
 立即注册
查看: 2345|回复: 9

为什么我写的一个爬虫打开那么慢 显示的内容也不对啊

[复制链接]
发表于 2016-10-5 20:57:35 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能^_^

您需要 登录 才可以下载或查看,没有账号?立即注册

x
照着第55课写的
  1. import urllib.request

  2. url = 'http://www.whatismyip.com.tw'


  3. proxy_support = urllib.request.ProxyHandler({'http':'222.68.207.11:80'})

  4. opener = urllib.request.build_opener(proxy_support)
  5. opener.addheaders = [('User-Agent','Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/45.0.2454.101 Safari/537.36')]

  6. urllib.request.install_opener(opener)

  7. response = urllib.request.urlopen(url)
  8. html = response.read().decode('utf-8')

  9. print(html)
复制代码


问题1:  换了很多代理ip 都出错(出错内容图1)  用自己的IP跑就不会,但是看着内容和55课上的不一样 (自己IP跑的 图2)
问题2:  不管用什么IP跑都很慢  每次都要一分钟左右    这个是不是我电脑的问题  (注:  我电脑是windows10  64位  python是3.5.2版本)

图1

图1

图2

图2
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复

使用道具 举报

 楼主| 发表于 2016-10-5 21:05:29 | 显示全部楼层
请各位鱼油指点一下  谢谢
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2016-10-5 22:41:29 | 显示全部楼层
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2016-10-5 23:55:15 | 显示全部楼层
SixPy 发表于 2016-10-5 22:41
http://bbs.fishc.com/forum.php?mod=redirect&goto=findpost&ptid=74280&pid=2620904

代理IP这个懂一点了   

那么第二个问题呢   是我主机不行还是网络问题或者其它问题呢

不管我怎么弄都是很慢才跑出来
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2016-10-6 00:04:17 | 显示全部楼层
西殴 发表于 2016-10-5 23:55
代理IP这个懂一点了   

那么第二个问题呢   是我主机不行还是网络问题或者其它问题呢

你换些收费的代理IP试试?情况应该会不一样。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2016-10-6 00:22:31 | 显示全部楼层
~风介~ 发表于 2016-10-6 00:04
你换些收费的代理IP试试?情况应该会不一样。

用自己的IP去也是一样慢啊   

这个区别真的很大麽
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2016-10-6 00:26:36 | 显示全部楼层
西殴 发表于 2016-10-6 00:22
用自己的IP去也是一样慢啊   

这个区别真的很大麽

试试这个?http://whatismyip.org/
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2016-10-6 00:30:55 | 显示全部楼层
~风介~ 发表于 2016-10-6 00:26
试试这个?http://whatismyip.org/

我觉得我电脑出问题了
  1. from urllib.request import urlopen

  2. r = urlopen('http://bbs.fishc.com/forum.php')

  3. r.read()
复制代码

我刚刚试着跑这个也要好久
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

发表于 2016-10-6 00:33:22 | 显示全部楼层
西殴 发表于 2016-10-6 00:30
我觉得我电脑出问题了

我刚刚试着跑这个也要好久

1.重启试试。
2.换一台机吧。
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

 楼主| 发表于 2016-10-6 00:41:01 | 显示全部楼层
~风介~ 发表于 2016-10-6 00:33
1.重启试试。
2.换一台机吧。

跑了几次上面那个代码把Shell跑死了   电脑没问题  就是Shell会死    这是什么个情况
想知道小甲鱼最近在做啥?请访问 -> ilovefishc.com
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2024-4-25 23:43

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表