代理ip软件

您的位置: 首页 > 新闻资讯 > 正文

如何通过requests使用代理IP进行爬虫工作

发布时间:2019-07-02 15:37:44 来源:挂机精灵

  如何通过requests使用代理IP进行爬虫工作?我们知道,一些网站会有相应的反爬虫措施,比如检测某些IP的访问次数或者访问频率,有些反人类的访问速度就会收到限制甚至封禁,所以在进行爬虫工作时也要讲究策略,比如使用代理IP,调整访问频率,设置UA等等,让我们来看看如何简单的使用代理IP。

如何通过requests使用代理IP进行爬虫工作

  #!/usr/bin/env python

  # -*- coding:utf-8 -*-

  import requests

  import random

  if __name__ == "__main__":

  #不同浏览器的UA

  header_list = [

  # 遨游

  {"user-agent": "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; Maxthon 2.0)"},

  # 火狐

  {"user-agent": "Mozilla/5.0 (Windows NT 6.1; rv:2.0.1) Gecko/20100101 Firefox/4.0.1"},

  # 谷歌

  {

  "user-agent": "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_0) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11"}

  ]

  #不同的代理IP(该代理ip可能已经失效,请自行去挂机精灵网站上购买开通)

  proxy_list = [

  {"http": "112.115.57.20:33128"},

  {‘http‘: ‘121.41.171.223:32128‘}

  ]

  #随机获取UA和代理IP

  header = random.choice(header_list)

  proxy = random.choice(proxy_list)

  url = ‘http://www.baidu.com/s?ie=UTF-8&wd=ip‘

  #参数3:设置代理

  response = requests.get(url=url,headers=header,proxies=proxy)

  response.encoding = ‘utf-8‘

  with open(‘daili.html‘, ‘wb‘) as fp:

  fp.write(response.content)

  #切换成原来的IP

  requests.get(url, proxies={"http": ""})


相关资讯

封号和IP代理,网游工作室最深的两种痛

2018年电子竞技中,IG夺冠人人都说不仅仅是一场游戏的胜利,更是我们对青春的证明。不务正业和那些不被理解的少年时代,现在终于得到了正名,电竞行业和电竞选手也慢

来源:互联网

2019-03-01 15:32:59

什么手游赚钱,适合游戏工作室有哪些?

现在人们生活越来越大,会有很多人都通过玩游戏来排解压力,甚至不少人还通过发掘工作室的项目,通过创建游戏工作室来赚钱。久而久之,玩游戏不止是一种娱乐的方式,同时还

来源:互联网

2019-03-06 17:24:27

赚钱效率提升几十倍!这些手游工作室用了挂机精灵

智能手机改变了人们的生活,手游越来越流行,同样手游工作室也渐渐变多了起来,但并不是所有工作室都是赚大钱的,有的经营惨淡,有的却风生水起,那究竟是什么导致差别如此

来源:互联网

2019-03-12 16:03:18

使用网页换IP软件可以大大提高工作效率

在经济全球化大趋势下,网页换IP软件在过去的几年里为市场创造了不少价值,并成功带动不少效果补量产业发展。为何网页换IP软件能取得如此成就,归根究底还是因为它有效

来源:挂机精灵

2019-04-18 15:51:59

代理服务器网址的工作原理是什么

一提到代理服务器网址,大家可能就会想知道它的工作原理是什么,一般我们在使用浏览器时是由服务器设置好格式之后,大家在访问时就有www站点的请求,这都是不会直接发给

来源:挂机精灵

2019-04-26 16:41:38

代理服务器在工作中有什么作用

相对于几十亿的网民而言,使用代理服务器的占比是非常小的,即使占比小,但使用的人数也不少。而且现在随着技术的进步,很多平台的限制越多了,需要使用到代理的地方也多了

来源:挂机精灵

2019-05-20 15:25:17

爬虫工作中使用动态ip的重要性

对于从事互联网工作的小伙伴来说,动态ip并不是一个陌生的存在,如果你恰好是做技术敲代码的专业人才,尤其是要负责网络爬虫的相关工作,那么每天跟你打交道比较多的就是

来源:挂机精灵

2019-06-05 14:38:49

为了营销批量注册账号,IP更换是如何操作的?

很多用户在做问答营销时都遇到过这些情况,比如在一些网站上面批量注册帐号、发布留言评论,或在使用一些即时通讯软件频繁发送消息等等这些行为都会遇到系统的IP限制,限

来源:互联网

2019-02-26 17:38:59

如何通过隐藏IP来防御DDOS攻击

如何通过隐藏IP来防御DDOS攻击?现在这个互联网环境很难保证自己不会被DDOS攻击,为了保证服务器的正常稳定运行,隐藏服务器真实IP是个不错的方法,这可以让攻

来源:互联网

2019-04-10 16:27:03

挂机精灵代理ip软件解决ip被封

   挂机精灵代理ip软件解决ip被封,现在市面上挂机软件如此之多,该怎么判断这个挂机软件是好用还是不好用呢?我们该如何选择一款适

来源:互联网

2019-02-11 15:16:07

如何通过requests使用代理IP进行爬虫工作

如何通过requests使用代理IP进行爬虫工作?我们知道,一些网站会有相应的反爬虫措施,比如检测某些IP的访问次数或者访问频率,有些反人类的访问速度就会收到限

来源:挂机精灵

2019-07-02 15:37:44