只是一个简短的，简单的关于优秀的Python请求模块。
我似乎在文档中找不到变量“代理”应该包含什么。当我给它发送一个带有标准“IP:PORT”值的字典时，它拒绝了它要求2个值。 所以，我猜(因为这似乎没有被覆盖在文档)，第一个值是ip和第二个端口?
文档只提到了这一点:
代理-(可选)字典映射协议到代理的URL。
所以我尝试了这个…我该怎么办?
proxy = { ip: port}
在把它们放入字典之前，我应该把它们转换成某种类型吗?
r = requests.get(url,headers=headers,proxies=proxy)
当前回答
我分享了一些如何从网站“https://free-proxy-list.net”获取代理的代码，并将数据存储到与“精英代理切换器”(格式IP:PORT)等工具兼容的文件中:
PROXY_UPDATER -从https://free-proxy-list.net/获得免费代理
from lxml.html import fromstring
import requests
from itertools import cycle
import traceback
import re
######################FIND PROXIES#########################################
def get_proxies():
url = 'https://free-proxy-list.net/'
response = requests.get(url)
parser = fromstring(response.text)
proxies = set()
for i in parser.xpath('//tbody/tr')[:299]: #299 proxies max
proxy = ":".join([i.xpath('.//td[1]/text()')
[0],i.xpath('.//td[2]/text()')[0]])
proxies.add(proxy)
return proxies
######################write to file in format IP:PORT######################
try:
proxies = get_proxies()
f=open('proxy_list.txt','w')
for proxy in proxies:
f.write(proxy+'\n')
f.close()
print ("DONE")
except:
print ("MAJOR ERROR")
其他回答
接受的答案对我来说是一个好的开始，但我一直得到以下错误:
AssertionError: Not supported proxy scheme None
修复这个问题是在代理url中指定http://:
http_proxy = "http://194.62.145.248:8080"
https_proxy = "https://194.62.145.248:8080"
ftp_proxy = "10.10.1.10:3128"
proxyDict = {
"http" : http_proxy,
"https" : https_proxy,
"ftp" : ftp_proxy
}
我感兴趣的是，为什么原版对某些人有效，但对我无效。
编辑:我看到主要的答案现在更新了，以反映这一点:)
经过测试，下面的代码可以工作。需要使用HTTPProxyAuth。
import requests
from requests.auth import HTTPProxyAuth
USE_PROXY = True
proxy_user = "aaa"
proxy_password = "bbb"
http_proxy = "http://your_proxy_server:8080"
https_proxy = "http://your_proxy_server:8080"
proxies = {
"http": http_proxy,
"https": https_proxy
}
def test(name):
print(f'Hi, {name}') # Press Ctrl+F8 to toggle the breakpoint.
# Create the session and set the proxies.
session = requests.Session()
if USE_PROXY:
session.trust_env = False
session.proxies = proxies
session.auth = HTTPProxyAuth(proxy_user, proxy_password)
r = session.get('https://www.stackoverflow.com')
print(r.status_code)
if __name__ == '__main__':
test('aaa')
晚了8年。但我喜欢:
import os
import requests
os.environ['HTTP_PROXY'] = os.environ['http_proxy'] = 'http://http-connect-proxy:3128/'
os.environ['HTTPS_PROXY'] = os.environ['https_proxy'] = 'http://http-connect-proxy:3128/'
os.environ['NO_PROXY'] = os.environ['no_proxy'] = '127.0.0.1,localhost,.local'
r = requests.get('https://example.com') # , verify=False
我发现urllib有一些非常好的代码来获取系统的代理设置，而且它们恰好以正确的形式直接使用。你可以这样使用:
import urllib
...
r = requests.get('http://example.org', proxies=urllib.request.getproxies())
它工作得非常好，urllib也知道如何获取Mac OS X和Windows设置。
我分享了一些如何从网站“https://free-proxy-list.net”获取代理的代码，并将数据存储到与“精英代理切换器”(格式IP:PORT)等工具兼容的文件中:
PROXY_UPDATER -从https://free-proxy-list.net/获得免费代理
from lxml.html import fromstring
import requests
from itertools import cycle
import traceback
import re
######################FIND PROXIES#########################################
def get_proxies():
url = 'https://free-proxy-list.net/'
response = requests.get(url)
parser = fromstring(response.text)
proxies = set()
for i in parser.xpath('//tbody/tr')[:299]: #299 proxies max
proxy = ":".join([i.xpath('.//td[1]/text()')
[0],i.xpath('.//td[2]/text()')[0]])
proxies.add(proxy)
return proxies
######################write to file in format IP:PORT######################
try:
proxies = get_proxies()
f=open('proxy_list.txt','w')
for proxy in proxies:
f.write(proxy+'\n')
f.close()
print ("DONE")
except:
print ("MAJOR ERROR")
