我试图抓取一个网站，但它给了我一个错误。
我正在使用以下代码:
import urllib.request
from bs4 import BeautifulSoup
get = urllib.request.urlopen("https://www.website.com/")
html = get.read()
soup = BeautifulSoup(html)
print(soup)
我得到以下错误:
File "C:\Python34\lib\encodings\cp1252.py", line 19, in encode
return codecs.charmap_encode(input,self.errors,encoding_table)[0]
UnicodeEncodeError: 'charmap' codec can't encode characters in position 70924-70950: character maps to <undefined>
我该怎么补救呢?
当前回答
在Python 3.7中，并运行Windows 10，这是可行的(我不确定它是否适用于其他平台和/或其他版本的Python)
替换这一行:
用open('filename'， 'w')作为f:
用这个:
用open('filename'， 'w'， encoding='utf-8')作为f:
之所以能正常工作，是因为在使用该文件时，编码被更改为UTF-8，因此UTF-8中的字符能够转换为文本，而不是在遇到当前编码不支持的UTF-8字符时返回错误。
其他回答
从Python 3.7开始， 将环境变量PYTHONUTF8设置为1
下面的脚本还包括其他有用的变量，用于设置系统环境变量。
setx /m PYTHONUTF8 1
setx PATHEXT "%PATHEXT%;.PY" ; In CMD, Python file can be executed without extesnion.
setx /m PY_PYTHON 3.10 ; To set default python version for py
源
我得到了同样的错误，所以我使用(encoding="utf-8")，它解决了错误。 这通常发生在我们在文本数据中得到一些编码器不理解的未知符号或模式时。
with open("text.txt", "w", encoding='utf-8') as f:
f.write(data)
这将解决你的问题。
我得到了相同的UnicodeEncodeError时，保存抓取的网页内容到一个文件。为了修复它，我替换了以下代码:
with open(fname, "w") as f:
f.write(html)
用这个:
with open(fname, "w", encoding="utf-8") as f:
f.write(html)
如果你需要支持Python 2，那么使用这个:
import io
with io.open(fname, "w", encoding="utf-8") as f:
f.write(html)
如果您想使用与UTF-8不同的编码，请指定用于编码的实际编码。
对于那些仍然得到这个错误的人，添加encode(“utf-8”)到soup也可以解决这个问题。
soup = BeautifulSoup(html_doc, 'html.parser').encode("utf-8")
print(soup)
set PYTHONIOENCODING=utf-8
set PYTHONLEGACYWINDOWSSTDIO=utf-8
您可能需要也可能不需要设置第二个环境变量PYTHONLEGACYWINDOWSSTDIO。
或者，这可以在代码中完成(尽管似乎建议通过env vars来完成):
sys.stdin.reconfigure(encoding='utf-8')
sys.stdout.reconfigure(encoding='utf-8')
另外:重现这个错误有点麻烦，所以把这个也留在这里，以防你需要在你的机器上重现它:
set PYTHONIOENCODING=windows-1252
set PYTHONLEGACYWINDOWSSTDIO=windows-1252
