我使用sklearn和有一个问题的亲和传播。我已经建立了一个输入矩阵，我一直得到以下错误。
ValueError: Input contains NaN, infinity or a value too large for dtype('float64').
我已经跑了
np.isnan(mat.any()) #and gets False
np.isfinite(mat.all()) #and gets True
我试着用
mat[np.isfinite(mat) == True] = 0
去除掉无限值，但这也没用。 我要怎么做才能去掉矩阵中的无穷大值，这样我就可以使用亲和传播算法了?
我使用anaconda和python 2.7.9。
当前回答
我想为numpy提出一个适合我的解决方案。这条线
from numpy import inf
inputArray[inputArray == inf] = np.finfo(np.float64).max
将numpy数组的所有无限值替换为最大的float64数。
其他回答
这是它失败的检查:
https://github.com/scikit-learn/scikit-learn/blob/0.17.X/sklearn/utils/validation.py#L51
说
def _assert_all_finite(X):
"""Like assert_all_finite, but only for ndarray."""
X = np.asanyarray(X)
# First try an O(n) time, O(1) space solution for the common case that
# everything is finite; fall back to O(n) space np.isfinite to prevent
# false positives from overflow in sum method.
if (X.dtype.char in np.typecodes['AllFloat'] and not np.isfinite(X.sum())
and not np.isfinite(X).all()):
raise ValueError("Input contains NaN, infinity"
" or a value too large for %r." % X.dtype)
所以确保你的输入中有非NaN值。所有这些值实际上都是浮点值。这些值也不应该是Inf。
在python 3的这个版本中:
/opt/anaconda3/bin/python --version
Python 3.6.0 :: Anaconda 4.3.0 (64-bit)
查看错误的详细信息，我发现导致失败的代码行:
/opt/anaconda3/lib/python3.6/site-packages/sklearn/utils/validation.py in _assert_all_finite(X)
56 and not np.isfinite(X).all()):
57 raise ValueError("Input contains NaN, infinity"
---> 58 " or a value too large for %r." % X.dtype)
59
60
ValueError: Input contains NaN, infinity or a value too large for dtype('float64').
由此，我能够提取正确的方法来测试我的数据所发生的事情，使用由错误消息给出的失败的相同测试:
然后，通过一个快速而肮脏的循环，我能够发现我的数据确实包含nan:
print(p[:,0].shape)
index = 0
for i in p[:,0]:
if not np.isfinite(i):
print(index, i)
index +=1
(367340,)
4454 nan
6940 nan
10868 nan
12753 nan
14855 nan
15678 nan
24954 nan
30251 nan
31108 nan
51455 nan
59055 nan
...
现在我要做的就是去掉这些下标处的值。
如果您碰巧使用“kc_house_data.csv”数据集(一些评论者和许多数据科学新手似乎使用这个数据集，因为它出现在许多流行的课程材料中)，则该数据是错误的，并且是错误的真正来源。
为了解决这个问题，从2022年开始:
删除csv文件中的最后一行(空) 有两行包含一个空数据值"x,x，，x,x" -要修复它，不要删除逗号，而是添加一个随机整数值，如2000，因此它看起来像"x,x,2000,x,x"
不要忘记在项目中保存和重新加载。
所有其他答案都是有帮助和正确的，但在这种情况下不是:
如果你使用kc_house_data.csv，你需要修复文件中的数据，没有其他帮助，空数据字段将随机转移其他数据，并产生难以追踪到源的奇怪错误!
我发现在一个新列上调用pct_change后，nan存在于一行中。我用下面的代码删除nan行
df = df.replace([np.inf, -np.inf], np.nan)
df = df.dropna()
df = df.reset_index()
在大多数情况下，消除无限和空值可以解决这个问题。
去掉无穷值。
df.replace([np.inf, -np.inf], np.nan, inplace=True)
以您喜欢的方式摆脱空值，特定的值，如999，平均值，或创建自己的函数来输入缺失的值
df.fillna(999, inplace=True)
