我试图抓取一个网站，但它给了我一个错误。
我正在使用以下代码:
import urllib.request
from bs4 import BeautifulSoup
get = urllib.request.urlopen("https://www.website.com/")
html = get.read()
soup = BeautifulSoup(html)
print(soup)
我得到以下错误:
File "C:\Python34\lib\encodings\cp1252.py", line 19, in encode
return codecs.charmap_encode(input,self.errors,encoding_table)[0]
UnicodeEncodeError: 'charmap' codec can't encode characters in position 70924-70950: character maps to <undefined>
我该怎么补救呢?
当前回答
我通过添加.encode("utf-8")来解决这个问题。
这意味着print(soup)变成print(soup.encode("utf-8"))。
其他回答
我通过添加.encode("utf-8")来解决这个问题。
这意味着print(soup)变成print(soup.encode("utf-8"))。
在Python 3.7中，并运行Windows 10，这是可行的(我不确定它是否适用于其他平台和/或其他版本的Python)
替换这一行:
用open('filename'， 'w')作为f:
用这个:
用open('filename'， 'w'， encoding='utf-8')作为f:
之所以能正常工作，是因为在使用该文件时，编码被更改为UTF-8，因此UTF-8中的字符能够转换为文本，而不是在遇到当前编码不支持的UTF-8字符时返回错误。
从Python 3.7开始， 将环境变量PYTHONUTF8设置为1
下面的脚本还包括其他有用的变量，用于设置系统环境变量。
setx /m PYTHONUTF8 1
setx PATHEXT "%PATHEXT%;.PY" ; In CMD, Python file can be executed without extesnion.
setx /m PY_PYTHON 3.10 ; To set default python version for py
源
即使是我也面临着同样的编码问题，当你试图打印它，读/写它或打开它时。正如上面提到的，如果你想打印它，添加.encoding="utf-8"会有帮助。
soup.encode(“utf - 8”)
如果您试图打开抓取的数据并可能将其写入文件，则使用(......，encoding="utf-8")打开该文件
open(filename_csv， 'w'， newline= "，encoding="utf-8") as csv:
在保存get请求的响应时，在窗口10的Python 3.7上抛出了相同的错误。从URL接收到的响应，编码是UTF-8，所以总是建议检查编码，这样就可以传递相同的编码，以避免这种琐碎的问题，因为它真的在生产中浪费了大量的时间
import requests
resp = requests.get('https://en.wikipedia.org/wiki/NIFTY_50')
print(resp.encoding)
with open ('NiftyList.txt', 'w') as f:
f.write(resp.text)
当我用open命令添加encoding="utf-8"时，它会以正确的响应保存文件
with open ('NiftyList.txt', 'w', encoding="utf-8") as f:
f.write(resp.text)
