我将数据从.csv文件读取到Pandas数据框架，如下所示。对于其中一列，即id，我想将列类型指定为int。问题是id系列有缺失/空值。
当我试图在读取.csv时将id列强制转换为整数时，我得到:
df= pd.read_csv("data.csv", dtype={'id': int})
error: Integer column has NA values
或者，我尝试转换列类型后，阅读如下，但这一次我得到:
df= pd.read_csv("data.csv")
df[['id']] = df[['id']].astype(int)
error: Cannot convert NA to integer
我该如何解决这个问题?
当前回答
这里的大多数解决方案都告诉您如何使用占位符整数来表示null。但是，如果不确定源数据中不会出现整数，那么这种方法就没有帮助。我的方法将格式浮动没有他们的十进制值，并将null转换为None。结果是一个对象数据类型，当加载到CSV中时，它看起来像一个带空值的整数字段。
keep_df[col] = keep_df[col].apply(lambda x: None if pandas.isnull(x) else '{0:.0f}'.format(pandas.to_numeric(x)))
其他回答
几周前，我遇到了一些离散的功能被格式化为“对象”的问题。这个解决方案似乎奏效了。
for col in discrete:
df[col] = pd.to_numeric(df[col],errors='coerce').astype(pd.Int64Dtype())
与Int64的问题，像许多其他的解决方案，是如果你有空值，他们被替换为<NA>值，这与熊猫默认的'NaN'函数，如isnull()或fillna()不工作。或者，如果您将值转换为-1，则可能会删除您的信息。我的解决方案有点蹩脚，但将用np提供int值。Nan，允许Nan函数在不影响您的值的情况下工作。
def to_int(x):
try:
return int(x)
except:
return np.nan
df[column] = df[column].apply(to_int)
对于任何需要在包含NULL/ nan的列中具有int值，但在其他答案中提到的不能使用pandas版本0.24.0可空整数特性的约束下工作的人，我建议使用pd.where将列转换为对象类型:
df = df.where(pd.notnull(df), None)
这将数据帧中的所有nan转换为None，将混合类型的列作为对象，但将int值保留为int，而不是float。
我在使用pyspark时遇到了这个问题。由于这是运行在jvm上的代码的python前端，它需要类型安全，使用float而不是int是不可取的。我把熊猫包裹起来，解决了这个问题。函数中的Read_csv，该函数将在将用户定义的列转换为所需类型之前，用用户定义的填充值填充用户定义的列。这是我最终使用的:
def custom_read_csv(file_path, custom_dtype = None, fill_values = None, **kwargs):
if custom_dtype is None:
return pd.read_csv(file_path, **kwargs)
else:
assert 'dtype' not in kwargs.keys()
df = pd.read_csv(file_path, dtype = {}, **kwargs)
for col, typ in custom_dtype.items():
if fill_values is None or col not in fill_values.keys():
fill_val = -1
else:
fill_val = fill_values[col]
df[col] = df[col].fillna(fill_val).astype(typ)
return df
我也遇到过类似的问题。这就是我的解决方案:
def toint(zahl = 1.1):
try:
zahl = int(zahl)
except:
zahl = np.nan
return zahl
print(toint(4.776655), toint(np.nan), toint('test'))
4 楠楠
df = pd.read_csv("data.csv")
df['id'] = df['id'].astype(float)
df['id'] = toint(df['id'])
