我将数据从.csv文件读取到Pandas数据框架,如下所示。对于其中一列,即id,我想将列类型指定为int。问题是id系列有缺失/空值。
当我试图在读取.csv时将id列强制转换为整数时,我得到:
df= pd.read_csv("data.csv", dtype={'id': int})
error: Integer column has NA values
或者,我尝试转换列类型后,阅读如下,但这一次我得到:
df= pd.read_csv("data.csv")
df[['id']] = df[['id']].astype(int)
error: Cannot convert NA to integer
我该如何解决这个问题?
如果可以删除带有NaN值的行,则可以使用.dropna()。
df = df.dropna(subset=['id'])
另外,
使用.fillna()和.astype()将NaN替换为值并将它们转换为int。
我在处理具有大整数的CSV文件时遇到了这个问题,而其中一些整数缺失(NaN)。使用float作为类型是不可取的,因为我可能会失去精度。
我的解决方案是使用str作为中间类型。
然后,您可以在稍后的代码中将字符串转换为int。我把NaN换成了0,但你可以选择任何值。
df = pd.read_csv(filename, dtype={'id':str})
df["id"] = df["id"].fillna("0").astype(int)
为了说明,这里有一个浮动可能会失去精度的例子:
s = "12345678901234567890"
f = float(s)
i = int(f)
i2 = int(s)
print (f, i, i2)
输出为:
1.2345678901234567e+19 12345678901234567168 12345678901234567890
从Pandas 1.0.0开始,你可以使用Pandas了。NA的价值观。这不会强制缺少值的整数列为浮点数。
在读取数据时,您需要做的是:
df= pd.read_csv("data.csv", dtype={'id': 'Int64'})
注意'Int64'被引号括起来,I是大写的。这区分了Panda的'Int64'和numpy的'Int64'。
作为旁注,这也适用于.astype()
df['id'] = df['id'].astype('Int64')
文件在这里
https://pandas.pydata.org/pandas-docs/stable/user_guide/integer_na.html