只是一个简短的，简单的关于优秀的Python请求模块。
我似乎在文档中找不到变量“代理”应该包含什么。当我给它发送一个带有标准“IP:PORT”值的字典时，它拒绝了它要求2个值。 所以，我猜(因为这似乎没有被覆盖在文档)，第一个值是ip和第二个端口?
文档只提到了这一点:
代理-(可选)字典映射协议到代理的URL。
所以我尝试了这个…我该怎么办?
proxy = { ip: port}
在把它们放入字典之前，我应该把它们转换成某种类型吗?
r = requests.get(url,headers=headers,proxies=proxy)
当前回答
有点晚了，但是这里有一个包装器类，它简化了抓取代理，然后生成http POST或GET:
ProxyRequests
https://github.com/rootVIII/proxy_requests
其他回答
有点晚了，但是这里有一个包装器类，它简化了抓取代理，然后生成http POST或GET:
ProxyRequests
https://github.com/rootVIII/proxy_requests
代理的dict语法为{"protocol": "scheme://ip:port"，…}。有了它，你可以为使用http, https和ftp协议的请求指定不同的(或相同的)代理:
http_proxy = "http://10.10.1.10:3128"
https_proxy = "https://10.10.1.11:1080"
ftp_proxy = "ftp://10.10.1.10:3128"
proxies = {
"http" : http_proxy,
"https" : https_proxy,
"ftp" : ftp_proxy
}
r = requests.get(url, headers=headers, proxies=proxies)
从请求文档推断出:
参数: method——新请求对象的方法。 url -新请求对象的url。 .．. 代理-(可选)字典映射协议到代理的URL。 .．.
在linux上，你也可以通过HTTP_PROXY, HTTPS_PROXY和FTP_PROXY环境变量来做到这一点:
export HTTP_PROXY=10.10.1.10:3128
export HTTPS_PROXY=10.10.1.11:1080
export FTP_PROXY=10.10.1.10:3128
在Windows上:
set http_proxy=10.10.1.10:3128
set https_proxy=10.10.1.11:1080
set ftp_proxy=10.10.1.10:3128
晚了8年。但我喜欢:
import os
import requests
os.environ['HTTP_PROXY'] = os.environ['http_proxy'] = 'http://http-connect-proxy:3128/'
os.environ['HTTPS_PROXY'] = os.environ['https_proxy'] = 'http://http-connect-proxy:3128/'
os.environ['NO_PROXY'] = os.environ['no_proxy'] = '127.0.0.1,localhost,.local'
r = requests.get('https://example.com') # , verify=False
我发现urllib有一些非常好的代码来获取系统的代理设置，而且它们恰好以正确的形式直接使用。你可以这样使用:
import urllib
...
r = requests.get('http://example.org', proxies=urllib.request.getproxies())
它工作得非常好，urllib也知道如何获取Mac OS X和Windows设置。
这是我的基本类在python请求模块与一些代理配置和秒表!
import requests
import time
class BaseCheck():
def __init__(self, url):
self.http_proxy = "http://user:pw@proxy:8080"
self.https_proxy = "http://user:pw@proxy:8080"
self.ftp_proxy = "http://user:pw@proxy:8080"
self.proxyDict = {
"http" : self.http_proxy,
"https" : self.https_proxy,
"ftp" : self.ftp_proxy
}
self.url = url
def makearr(tsteps):
global stemps
global steps
stemps = {}
for step in tsteps:
stemps[step] = { 'start': 0, 'end': 0 }
steps = tsteps
makearr(['init','check'])
def starttime(typ = ""):
for stemp in stemps:
if typ == "":
stemps[stemp]['start'] = time.time()
else:
stemps[stemp][typ] = time.time()
starttime()
def __str__(self):
return str(self.url)
def getrequests(self):
g=requests.get(self.url,proxies=self.proxyDict)
print g.status_code
print g.content
print self.url
stemps['init']['end'] = time.time()
#print stemps['init']['end'] - stemps['init']['start']
x= stemps['init']['end'] - stemps['init']['start']
print x
test=BaseCheck(url='http://google.com')
test.getrequests()
