给定一个包含“BoolCol”列的DataFrame,我们希望找到其中“BoolCol”值== True的DataFrame的索引
我目前有迭代的方式来做到这一点,这是完美的:
for i in range(100,3000):
if df.iloc[i]['BoolCol']== True:
print i,df.iloc[i]['BoolCol']
但这不是熊猫的正确做法。经过一些研究,我目前正在使用以下代码:
df[df['BoolCol'] == True].index.tolist()
这一个给了我一个索引列表,但它们不匹配,当我检查它们时,我这样做:
df.iloc[i]['BoolCol']
结果实际上是假的!!
熊猫的正确做法是什么?
首先,当目标列是bool类型时,你可以检查查询(PS:关于如何使用它,请检查链接)
df.query('BoolCol')
Out[123]:
BoolCol
10 True
40 True
50 True
在我们通过布尔列过滤原始df之后,我们可以选择索引。
df=df.query('BoolCol')
df.index
Out[125]: Int64Index([10, 40, 50], dtype='int64')
熊猫也有非零,我们只是选择True行的位置,并使用它切片数据帧或索引
df.index[df.BoolCol.values.nonzero()[0]]
Out[128]: Int64Index([10, 40, 50], dtype='int64')
首先,当目标列是bool类型时,你可以检查查询(PS:关于如何使用它,请检查链接)
df.query('BoolCol')
Out[123]:
BoolCol
10 True
40 True
50 True
在我们通过布尔列过滤原始df之后,我们可以选择索引。
df=df.query('BoolCol')
df.index
Out[125]: Int64Index([10, 40, 50], dtype='int64')
熊猫也有非零,我们只是选择True行的位置,并使用它切片数据帧或索引
df.index[df.BoolCol.values.nonzero()[0]]
Out[128]: Int64Index([10, 40, 50], dtype='int64')
另一种方法是使用pipe()对BoolCol的索引进行管道索引。就性能而言,它与使用[].1的规范索引一样高效
df['BoolCol'].pipe(lambda x: x.index[x])
如果BoolCol实际上是多个比较的结果,并且您希望使用方法链接将所有方法放在一个管道中,这尤其有用。
例如,如果你想获得NumCol值大于0.5、BoolCol值为True且NumCol值和BoolCol值的乘积大于0的行索引,你可以通过eval()对表达式求值并对结果调用pipe()来执行索引
df.eval("NumCol > 0.5 and BoolCol and NumCol * BoolCol >0").pipe(lambda x: x.index[x])
1:下面的基准测试使用了一个有20mil行的数据帧(平均过滤了一半的行),并检索了它们的索引。与其他有效的选项相比,通过pipe()进行链接的方法做得非常好。
n = 20_000_000
df = pd.DataFrame({'NumCol': np.random.rand(n).astype('float16'),
'BoolCol': np.random.default_rng().choice([True, False], size=n)})
%timeit df.index[df['BoolCol']]
# 181 ms ± 2.47 ms per loop (mean ± std. dev. of 10 runs, 1000 loops each)
%timeit df['BoolCol'].pipe(lambda x: x.index[x])
# 181 ms ± 1.08 ms per loop (mean ± std. dev. of 10 runs, 1000 loops each)
%timeit df['BoolCol'].loc[lambda x: x].index
# 297 ms ± 7.15 ms per loop (mean ± std. dev. of 10 runs, 1000 loops each)
2:对于一个20 mil的行数据帧,以与1)相同的方式构建基准,你会发现这里提出的方法是最快的选择。它比位操作符链执行得更好,因为根据设计,eval()在一个大数据帧上执行多个操作的速度比向量化的Python操作快,而且它比query()更节省内存,因为与query()不同,eval().pipe(…)不需要创建一个切片数据帧的副本来获得它的索引。
可以使用numpy where()函数完成:
import pandas as pd
import numpy as np
In [716]: df = pd.DataFrame({"gene_name": ['SLC45A1', 'NECAP2', 'CLIC4', 'ADC', 'AGBL4'] , "BoolCol": [False, True, False, True, True] },
index=list("abcde"))
In [717]: df
Out[717]:
BoolCol gene_name
a False SLC45A1
b True NECAP2
c False CLIC4
d True ADC
e True AGBL4
In [718]: np.where(df["BoolCol"] == True)
Out[718]: (array([1, 3, 4]),)
In [719]: select_indices = list(np.where(df["BoolCol"] == True)[0])
In [720]: df.iloc[select_indices]
Out[720]:
BoolCol gene_name
b True NECAP2
d True ADC
e True AGBL4
虽然你并不总是需要index来匹配,但如果你需要:
In [796]: df.iloc[select_indices].index
Out[796]: Index([u'b', u'd', u'e'], dtype='object')
In [797]: df.iloc[select_indices].index.tolist()
Out[797]: ['b', 'd', 'e']