不使用groupby我如何过滤数据没有NaN?

假设我有一个矩阵,其中客户将填写“N/ a”,“N/ a”或其任何变体,而其他人则留空:

import pandas as pd
import numpy as np


df = pd.DataFrame({'movie': ['thg', 'thg', 'mol', 'mol', 'lob', 'lob'],
                  'rating': [3., 4., 5., np.nan, np.nan, np.nan],
                  'name': ['John', np.nan, 'N/A', 'Graham', np.nan, np.nan]})

nbs = df['name'].str.extract('^(N/A|NA|na|n/a)')
nms=df[(df['name'] != nbs) ]

输出:

>>> nms
  movie    name  rating
0   thg    John       3
1   thg     NaN       4
3   mol  Graham     NaN
4   lob     NaN     NaN
5   lob     NaN     NaN

我如何过滤NaN值,这样我就可以得到这样的结果:

  movie    name  rating
0   thg    John       3
3   mol  Graham     NaN

我猜我需要像~np这样的东西。Isnan,但tilda不适用于字符串。


当前回答

你也可以使用query:

out = df.query("name.notna() & name !='N/A'", engine='python')

输出:

  movie  rating    name
0   thg     3.0    John
3   mol     NaN  Graham

其他回答

你也可以使用query:

out = df.query("name.notna() & name !='N/A'", engine='python')

输出:

  movie  rating    name
0   thg     3.0    John
3   mol     NaN  Graham
df.dropna(subset=['columnName1', 'columnName2'])

内部查询()通过column_name == column_name保留column_name不是NA的行。

对于你的情况:

nms.query('name == name')

你可以过滤负数到na值的列: Dt = Dt [~ Dt [columns_to_filter].isna().all(1)]

df = pd.DataFrame({'movie': ['thg', 'thg', 'mol', 'mol', 'lob', 'lob'],'rating': [3., 4., 5., np.nan, np.nan, np.nan],'name': ['John','James', np.nan, np.nan, np.nan,np.nan]})

for col in df.columns:
    df = df[~pd.isnull(df[col])]