UnicodeDecodeError: 'utf8' codec不能解码字节0x9c

我有一个套接字服务器，它应该从客户端接收UTF-8有效字符。

问题是一些客户端(主要是黑客)通过它发送所有错误类型的数据。

我可以很容易地区分真正的客户端，但我将发送的所有数据记录到文件中，以便以后进行分析。

有时我会得到这样的字符，导致UnicodeDecodeError错误。

我需要能够使字符串UTF-8与或没有这些字符。

更新:

对于我的特殊情况，套接字服务是一个MTA，因此我只希望接收ASCII命令，如:

EHLO example.com
MAIL FROM: <john.doe@example.com>
...

我用JSON记录了所有这些。

然后一些没有善意的人决定发送各种垃圾。

这就是为什么对于我的特定情况，剥离非ASCII字符是完全可以的。

当前回答

以防有人有同样的问题。我正在使用vim与YouCompleteMe，未能启动ycmd与此错误消息，我所做的是:导出LC_CTYPE="en_US。UTF-8"，问题消失了。

其他回答

如果需要对文件进行更改，但不知道文件的编码，该怎么办?如果你知道编码是ASCII兼容的，并且只想检查或修改ASCII部分，你可以使用surrogateescape错误处理程序打开文件:

with open(fname, 'r', encoding="ascii", errors="surrogateescape") as f:
    data = f.read()

以防有人有同样的问题。我正在使用vim与YouCompleteMe，未能启动ycmd与此错误消息，我所做的是:导出LC_CTYPE="en_US。UTF-8"，问题消失了。

>>> '\x9c'.decode('cp1252')
u'\u0153'
>>> print '\x9c'.decode('cp1252')
œ

当使用拉丁美洲口音时，这个解决方案很有效，比如“ñ”。

我已经通过加法解决了这个问题

df = pd.read_csv(fileName,encoding='latin1')

现在我已经迁移到Python 3，这类问题突然出现在我身上。我不知道Python 2只是简单地处理文件编码的问题。

我找到了这个关于差异的很好的解释，以及如何在以上都不适合我的情况下找到解决方案。

http://python-notes.curiousefficiency.org/en/latest/python3/text_file_processing.html

简而言之，要使Python 3的行为尽可能与Python 2相似，请使用:

with open(filename, encoding="latin-1") as datafile:
    # work on datafile here

然而，阅读这篇文章，没有一个万能的解决方案。

推荐文章