为了这个目的，用纯Python编写了wget库。从2.0版开始，它就为urlretrieve注入了这些特性。

以下是python中下载文件最常用的调用:

urllib。Urlretrieve ('url_to_file'， file_name) urllib2.urlopen(“url_to_file”) requests.get (url) wget。下载(“url”,file_name)

注意:urlopen和urlretrieve在下载大文件(大小为> 500 MB)时表现相对较差。请求。Get将文件存储在内存中，直到下载完成。

Urlretrieve和请求。得到的都很简单，然而现实却不。 我已经为两个站点提取了数据，包括文本和图像，以上两个可能解决了大部分任务。但如果想要更通用的解决方案，我建议使用urlopen。由于它包含在Python 3标准库中，您的代码可以在任何运行Python 3的机器上运行，而无需预先安装site-package

import urllib.request
url_request = urllib.request.Request(url, headers=headers)
url_connect = urllib.request.urlopen(url_request)

#remember to open file in bytes mode
with open(filename, 'wb') as f:
    while True:
        buffer = url_connect.read(buffer_size)
        if not buffer: break

        #an integer value of size of written data
        data_wrote = f.write(buffer)

#you could probably use with-open-as manner
url_connect.close()

当使用Python通过HTTP下载文件时，这个答案提供了HTTP 403禁止的解决方案。我只尝试了请求和urllib模块，其他模块可能会提供更好的东西，但这是我用来解决大多数问题的一个。

import urllib2
mp3file = urllib2.urlopen("http://www.example.com/songs/mp3.mp3")
with open('test.mp3','wb') as output:
  output.write(mp3file.read())

open('test.mp3'，'wb')中的wb以二进制模式打开文件(并擦除任何现有文件)，以便您可以使用它保存数据而不仅仅是文本。

import os,requests
def download(url):
    get_response = requests.get(url,stream=True)
    file_name  = url.split("/")[-1]
    with open(file_name, 'wb') as f:
        for chunk in get_response.iter_content(chunk_size=1024):
            if chunk: # filter out keep-alive new chunks
                f.write(chunk)


download("https://example.com/example.jpg")

如果你安装了wget，你可以使用parallel_sync。

PIP安装parallel_sync

from parallel_sync import wget
urls = ['http://something.png', 'http://somthing.tar.gz', 'http://somthing.zip']
wget.download('/tmp', urls)
# or a single file:
wget.download('/tmp', urls[0], filenames='x.zip', extract=True)

道格: https://pythonhosted.org/parallel_sync/pages/examples.html

这是非常强大的。它可以并行下载文件，失败时重试，甚至可以在远程机器上下载文件。