这是我的代码，
for line in open('u.item'):
# Read each line
每当我运行这段代码，它给出以下错误:
UnicodeDecodeError: 'utf-8' codec无法解码字节0xe9在位置2892:无效的延续字节
我试图解决这个问题，并在open()中添加了一个额外的参数。代码如下:
for line in open('u.item', encoding='utf-8'):
# Read each line
但是它又给出了同样的错误。那我该怎么办呢?
当前回答
我的问题类似于UTF-8文本被传递给Python脚本。
在我的例子中，它来自SQL Server机器学习服务中使用sp_execute_external_script的SQL。不管出于什么原因，VARCHAR数据似乎被作为UTF-8传递，而NVARCHAR数据被作为UTF-16传递。
由于无法在Python中指定默认编码，并且没有用户可编辑的Python语句解析数据，所以我不得不在@input_data参数中的SELECT查询中使用SQL CONVERT()函数。
当这个查询
EXEC sp_execute_external_script @language = N'Python',
@script = N'
OutputDataSet = InputDataSet
',
@input_data_1 = N'SELECT id, text FROM the_error;'
WITH RESULT SETS (([id] int, [text] nvarchar(max)));
给出错误
UnicodeDecodeError: 'utf-8' codec can't decode byte 0xc7 in position 0: unexpected end of data
使用CONVERT(类型，数据)(CAST(数据AS类型)也可以)
EXEC sp_execute_external_script @language = N'Python',
@script = N'
OutputDataSet = InputDataSet
',
@input_data_1 = N'SELECT id, CONVERT(NVARCHAR(max), text) FROM the_error;'
WITH RESULT SETS (([id] INT, [text] NVARCHAR(max)));
返回
id text
1 Ç
其他回答
根据Mark Ransom的建议，我找到了解决这个问题的正确编码。编码是“ISO-8859-1”，因此替换open(“u。Item "， encoding="utf-8")与open('u。item'， encoding = "ISO-8859-1")将解决问题。
使用这个，如果你直接从github或kaggle加载数据DF=pd.read_csv(文件，编码='ISO-8859-1')
试着用Pandas来阅读:
pd.read_csv('u.item', sep='|', names=m_cols, encoding='latin-1')
你可以用以下方法来解决这个问题:
for line in open(your_file_path, 'rb'):
'rb'以二进制模式读取文件。点击这里阅读更多。
“utf-8”编解码器无法解码位置7044中的0xed字节:无效的延续字节
上述错误是由于编码造成的
解决方案:-使用" encoding='latin-1' "
参考:https://pandas.pydata.org/docs/search.html?q=encoding
