我使用sklearn和有一个问题的亲和传播。我已经建立了一个输入矩阵，我一直得到以下错误。
ValueError: Input contains NaN, infinity or a value too large for dtype('float64').
我已经跑了
np.isnan(mat.any()) #and gets False
np.isfinite(mat.all()) #and gets True
我试着用
mat[np.isfinite(mat) == True] = 0
去除掉无限值，但这也没用。 我要怎么做才能去掉矩阵中的无穷大值，这样我就可以使用亲和传播算法了?
我使用anaconda和python 2.7.9。
当前回答
dataset = dataset.dropna(axis=0, how='any', thresh=None, subset=None, inplace=False)
这对我很有效
其他回答
这可能发生在scikit内部，这取决于您正在做什么。我建议阅读您正在使用的函数的文档。你可能会使用一个，例如，你的矩阵是正定的，不满足那个条件。
编辑:我怎么能错过呢?
np.isnan(mat.any()) #and gets False
np.isfinite(mat.all()) #and gets True
显然是错误的。正确的是:
np.any(np.isnan(mat))
and
np.all(np.isfinite(mat))
您想要检查是否有任何元素是NaN，而不是任何函数的返回值是否为数字…
问题似乎发生在DecisionTreeClassifier输入检查，尝试
X_train = X_train.replace((np.inf, -np.inf, np.nan), 0).reset_index(drop=True)
在我的例子中，算法要求数据在(0,1)之间不包含。我非常残酷的解决方案是在所有期望值中添加一个小随机数:
y_train = pd.DataFrame(y_train).applymap(lambda x: x + np.random.rand()/100000.0)["col_name"]
y_train[y_train >= 1] = 0.999999
而y_train在[0,1]的范围内。
这当然不适合所有的情况，因为你会弄乱你的输入数据，但如果你有稀疏的数据，只需要一个快速的预测，这是一个解决方案
try
mat.sum()
如果你的数据和是无穷大(大于最大浮点值3.402823e+38)，你会得到这个错误。
请参阅scikit源代码中的validation.py中的_assert_all_finite函数:
if is_float and np.isfinite(X.sum()):
pass
elif is_float:
msg_err = "Input contains {} or a value too large for {!r}."
if (allow_nan and np.isinf(X).any() or
not allow_nan and not np.isfinite(X).all()):
type_err = 'infinity' if allow_nan else 'NaN, infinity'
# print(X.sum())
raise ValueError(msg_err.format(type_err, X.dtype))
移除所有无限值:
(并替换为该列的min或Max)
import numpy as np
# generate example matrix
matrix = np.random.rand(5,5)
matrix[0,:] = np.inf
matrix[2,:] = -np.inf
>>> matrix
array([[ inf, inf, inf, inf, inf],
[0.87362809, 0.28321499, 0.7427659 , 0.37570528, 0.35783064],
[ -inf, -inf, -inf, -inf, -inf],
[0.72877665, 0.06580068, 0.95222639, 0.00833664, 0.68779902],
[0.90272002, 0.37357483, 0.92952479, 0.072105 , 0.20837798]])
# find min and max values for each column, ignoring nan, -inf, and inf
mins = [np.nanmin(matrix[:, i][matrix[:, i] != -np.inf]) for i in range(matrix.shape[1])]
maxs = [np.nanmax(matrix[:, i][matrix[:, i] != np.inf]) for i in range(matrix.shape[1])]
# go through matrix one column at a time and replace + and -infinity
# with the max or min for that column
for i in range(matrix.shape[1]):
matrix[:, i][matrix[:, i] == -np.inf] = mins[i]
matrix[:, i][matrix[:, i] == np.inf] = maxs[i]
>>> matrix
array([[0.90272002, 0.37357483, 0.95222639, 0.37570528, 0.68779902],
[0.87362809, 0.28321499, 0.7427659 , 0.37570528, 0.35783064],
[0.72877665, 0.06580068, 0.7427659 , 0.00833664, 0.20837798],
[0.72877665, 0.06580068, 0.95222639, 0.00833664, 0.68779902],
[0.90272002, 0.37357483, 0.92952479, 0.072105 , 0.20837798]])
