QQ登录

只需一步,快速开始

搜索
鱼C论坛笔记大赛成绩公示
查看: 230|回复: 3

[争议讨论] Python:问题贴之爬取OOXX妹子图网址错误

[复制链接]
最佳答案
205 
累计签到:205 天
连续签到:42 天
发表于 2017-8-20 21:49:12 | 显示全部楼层 |阅读模式

马上注册加入鱼C,享用更多服务吧^_^

您需要 登录 才可以下载或查看,没有帐号?立即注册

x


经过天线宝宝大神的指点,又发现一问题~


爬取OOXX妹子图,经常会报错,找不到网址,问题出在哪呢~


报错信息:
140214ftp1y9e48222ntzc.png


解决方案:
  1. import urllib.request
  2. import os

  3. def url_open(url):
  4.     req = urllib.request.Request(url)
  5.     req.add_header('User-Agent','Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/56.0.2924.87 Safari/537.36')
  6.     response = urllib.request.urlopen(url)
  7.     html = response.read()
  8.    
  9.     return html
  10.    
  11. def get_page(url):  
  12.     html = url_open(url).decode('utf-8')

  13.     a= html.find('current-comment-page')+23
  14.     b= html.find(']',a)

  15.     return html[a:b]

  16. def find_imgs(url):
  17.     html = url_open(url).decode('utf-8')
  18.     img_addrs = []


  19.     a = html.find('img src=')

  20.     while  a!= -1:
  21.         b = html.find('.jpg',a,a+255)
  22. ################################################
  23.         if b != -1:
  24.             string = 'http:' + html[a+9:b+4] # 修改
  25.             img_addrs.append(string) # 修改
  26. ################################################   
  27.         else:
  28.             b=a+9

  29.         a = html.find('img src=',b)
  30.     return img_addrs

  31.    
  32. def save_imgs(folder,img_addrs):
  33.     for each in img_addrs:
  34.         filename = each.split('/')[-1]
  35.         with open(filename,'wb') as f:
  36.             img = url_open(each)
  37.             f.write(img)


  38. def download_mm(folder = 'OOXX',pages = 10):
  39.     os.mkdir(folder)
  40.     os.chdir(folder)

  41.     url = 'http://jandan.net/ooxx/'
  42.     page_num = int(get_page(url))

  43.     for i in range(pages):
  44.         page_num -= i
  45.         page_url = url + 'page-' +str(page_num)+ '#comments'
  46.         img_addrs = find_imgs(page_url)
  47.         save_imgs(folder,img_addrs)

  48. if __name__ == '__main__':
  49.     download_mm()
复制代码

评分

参与人数 1荣誉 +6 鱼币 +6 贡献 +6 收起 理由
小甲鱼 + 6 + 6 + 6 支持楼主!

查看全部评分

1. 如果您的提问得到满意的答案,请务必选择【最佳答案】;2. 如果想鼓励一下楼主或帮助到您的朋友,可以给他们【评分】作为奖励;
3. 善用【论坛搜索】功能,那里可能有您想要的答案;4. 粘贴代码请点击编辑框上的 <> 按钮,否则您的代码可能会被“吃掉”!
最佳答案
0 
累计签到:1 天
连续签到:1 天
发表于 2017-8-21 18:00:00 | 显示全部楼层
楼主 '//wx3.sinaimg.cn/..............'

你是不是忘记了   http:  
1. 如果您的提问得到满意的答案,请务必选择【最佳答案】;2. 如果想鼓励一下楼主或帮助到您的朋友,可以给他们【评分】作为奖励;
3. 善用【论坛搜索】功能,那里可能有您想要的答案;4. 粘贴代码请点击编辑框上的 <> 按钮,否则您的代码可能会被“吃掉”!
最佳答案
205 
累计签到:205 天
连续签到:42 天
 楼主| 发表于 2017-8-21 18:13:15 | 显示全部楼层
ttlwjljj 发表于 2017-8-21 18:00
楼主 '//wx3.sinaimg.cn/..............'

你是不是忘记了   http:

所以我发帖啊
1. 如果您的提问得到满意的答案,请务必选择【最佳答案】;2. 如果想鼓励一下楼主或帮助到您的朋友,可以给他们【评分】作为奖励;
3. 善用【论坛搜索】功能,那里可能有您想要的答案;4. 粘贴代码请点击编辑框上的 <> 按钮,否则您的代码可能会被“吃掉”!
最佳答案
0 

尚未签到

发表于 2017-8-23 09:35:06 From FishC Mobile | 显示全部楼层
我记得我当时是直接在读取出的地址前加上了http:
1. 如果您的提问得到满意的答案,请务必选择【最佳答案】;2. 如果想鼓励一下楼主或帮助到您的朋友,可以给他们【评分】作为奖励;
3. 善用【论坛搜索】功能,那里可能有您想要的答案;4. 粘贴代码请点击编辑框上的 <> 按钮,否则您的代码可能会被“吃掉”!
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

小甲鱼强烈推荐上一条 /1 下一条

小黑屋手机版Archiver( 粤公网安备 44051102000370号 | 粤ICP备11014136号

© 2010-2017 FishC.com GMT+8, 2017-9-25 10:35 Powered by Discuz! X2.5 Theme by dreambred

快速回复 返回顶部 返回列表