给定一个包含“BoolCol”列的DataFrame，我们希望找到其中“BoolCol”值== True的DataFrame的索引
我目前有迭代的方式来做到这一点，这是完美的:
for i in range(100,3000):
if df.iloc[i]['BoolCol']== True:
print i,df.iloc[i]['BoolCol']
但这不是熊猫的正确做法。经过一些研究，我目前正在使用以下代码:
df[df['BoolCol'] == True].index.tolist()
这一个给了我一个索引列表，但它们不匹配，当我检查它们时，我这样做:
df.iloc[i]['BoolCol']
结果实际上是假的!!
熊猫的正确做法是什么?
当前回答
可以使用numpy where()函数完成:
import pandas as pd
import numpy as np
In [716]: df = pd.DataFrame({"gene_name": ['SLC45A1', 'NECAP2', 'CLIC4', 'ADC', 'AGBL4'] , "BoolCol": [False, True, False, True, True] },
index=list("abcde"))
In [717]: df
Out[717]:
BoolCol gene_name
a False SLC45A1
b True NECAP2
c False CLIC4
d True ADC
e True AGBL4
In [718]: np.where(df["BoolCol"] == True)
Out[718]: (array([1, 3, 4]),)
In [719]: select_indices = list(np.where(df["BoolCol"] == True)[0])
In [720]: df.iloc[select_indices]
Out[720]:
BoolCol gene_name
b True NECAP2
d True ADC
e True AGBL4
虽然你并不总是需要index来匹配，但如果你需要:
In [796]: df.iloc[select_indices].index
Out[796]: Index([u'b', u'd', u'e'], dtype='object')
In [797]: df.iloc[select_indices].index.tolist()
Out[797]: ['b', 'd', 'e']
其他回答
简单的方法是在过滤之前重置DataFrame的索引:
df_reset = df.reset_index()
df_reset[df_reset['BoolCol']].index.tolist()
有点俗气，但是很快!
首先，当目标列是bool类型时，你可以检查查询(PS:关于如何使用它，请检查链接)
df.query('BoolCol')
Out[123]:
BoolCol
10 True
40 True
50 True
在我们通过布尔列过滤原始df之后，我们可以选择索引。
df=df.query('BoolCol')
df.index
Out[125]: Int64Index([10, 40, 50], dtype='int64')
熊猫也有非零，我们只是选择True行的位置，并使用它切片数据帧或索引
df.index[df.BoolCol.values.nonzero()[0]]
Out[128]: Int64Index([10, 40, 50], dtype='int64')
可以使用numpy where()函数完成:
import pandas as pd
import numpy as np
In [716]: df = pd.DataFrame({"gene_name": ['SLC45A1', 'NECAP2', 'CLIC4', 'ADC', 'AGBL4'] , "BoolCol": [False, True, False, True, True] },
index=list("abcde"))
In [717]: df
Out[717]:
BoolCol gene_name
a False SLC45A1
b True NECAP2
c False CLIC4
d True ADC
e True AGBL4
In [718]: np.where(df["BoolCol"] == True)
Out[718]: (array([1, 3, 4]),)
In [719]: select_indices = list(np.where(df["BoolCol"] == True)[0])
In [720]: df.iloc[select_indices]
Out[720]:
BoolCol gene_name
b True NECAP2
d True ADC
e True AGBL4
虽然你并不总是需要index来匹配，但如果你需要:
In [796]: df.iloc[select_indices].index
Out[796]: Index([u'b', u'd', u'e'], dtype='object')
In [797]: df.iloc[select_indices].index.tolist()
Out[797]: ['b', 'd', 'e']
如果你只想使用你的dataframe对象一次，使用:
df['BoolCol'].loc[lambda x: x==True].index
对于我们感兴趣的已知候选索引，不检查整个列的更快方法可以这样做:
np.array(index_slice)[np.where(df.loc[index_slice]['column_name'] >= threshold)[0]]
完整的比较:
import pandas as pd
import numpy as np
index_slice = list(range(50,150)) # know index location for our inteterest
data = np.zeros(10000)
data[(index_slice)] = np.random.random(len(index_slice))
df = pd.DataFrame(
{'column_name': data},
)
threshold = 0.5
%%timeit
np.array(index_slice)[np.where(df.loc[index_slice]['column_name'] >= threshold)[0]]
# 600 µs ± 1.21 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)
%%timeit
[i for i in index_slice if i in df.index[df['column_name'] >= threshold].tolist()]
# 22.5 ms ± 29.1 µs per loop (mean ± std. dev. of 7 runs, 10 loops each)
它的工作方式是这样的:
# generate Boolean satisfy condition only in sliced column
df.loc[index_slice]['column_name'] >= threshold
# convert Boolean to index, but start from 0 and increment by 1
np.where(...)[0]
# list of index to be sliced
np.array(index_slice)[...]
注意: 需要注意的是，np.array(index_slice)不能被df代替。由于np.where(…)[0]索引从0开始，并增加1，但你可以做一些像df.index[index_slice]。我认为这是不值得的如果你只是用少量的行做一次。
