背景

我刚刚把我的熊猫从0.11升级到0.13.0rc1。现在,应用程序弹出了许多新的警告。其中一个是这样的:

E:\FinReporter\FM_EXT.py:449: SettingWithCopyWarning: A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_index,col_indexer] = value instead
  quote_df['TVol']   = quote_df['TVol']/TVOL_SCALE

我想知道这到底是什么意思?我需要改变什么吗?

如果我坚持使用quote_df['TVol'] = quote_df['TVol']/TVOL_SCALE,我应该如何暂停警告?

给出错误的函数

def _decode_stock_quote(list_of_150_stk_str):
    """decode the webpage and return dataframe"""

    from cStringIO import StringIO

    str_of_all = "".join(list_of_150_stk_str)

    quote_df = pd.read_csv(StringIO(str_of_all), sep=',', names=list('ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefg')) #dtype={'A': object, 'B': object, 'C': np.float64}
    quote_df.rename(columns={'A':'STK', 'B':'TOpen', 'C':'TPCLOSE', 'D':'TPrice', 'E':'THigh', 'F':'TLow', 'I':'TVol', 'J':'TAmt', 'e':'TDate', 'f':'TTime'}, inplace=True)
    quote_df = quote_df.ix[:,[0,3,2,1,4,5,8,9,30,31]]
    quote_df['TClose'] = quote_df['TPrice']
    quote_df['RT']     = 100 * (quote_df['TPrice']/quote_df['TPCLOSE'] - 1)
    quote_df['TVol']   = quote_df['TVol']/TVOL_SCALE
    quote_df['TAmt']   = quote_df['TAmt']/TAMT_SCALE
    quote_df['STK_ID'] = quote_df['STK'].str.slice(13,19)
    quote_df['STK_Name'] = quote_df['STK'].str.slice(21,30)#.decode('gb2312')
    quote_df['TDate']  = quote_df.TDate.map(lambda x: x[0:4]+x[5:7]+x[8:10])
    
    return quote_df

更多错误消息

E:\FinReporter\FM_EXT.py:449: SettingWithCopyWarning: A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_index,col_indexer] = value instead
  quote_df['TVol']   = quote_df['TVol']/TVOL_SCALE
E:\FinReporter\FM_EXT.py:450: SettingWithCopyWarning: A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_index,col_indexer] = value instead
  quote_df['TAmt']   = quote_df['TAmt']/TAMT_SCALE
E:\FinReporter\FM_EXT.py:453: SettingWithCopyWarning: A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_index,col_indexer] = value instead
  quote_df['TDate']  = quote_df.TDate.map(lambda x: x[0:4]+x[5:7]+x[8:10])

当前回答

如果你已经将切片分配给一个变量,并希望像下面这样使用变量进行设置:

df2 = df[df['A'] > 2]
df2['B'] = value

如果你不想使用Jeff的解,因为你计算df2的条件太长或其他原因,那么你可以使用以下方法:

df.loc[df2.index.tolist(), 'B'] = value

df2.index.tolist()返回df2中所有条目的索引,这些索引将用于设置原始数据框架中的列B。

其他回答

我相信你可以这样避免整个问题:

return (
    pd.read_csv(StringIO(str_of_all), sep=',', names=list('ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefg')) #dtype={'A': object, 'B': object, 'C': np.float64}
    .rename(columns={'A':'STK', 'B':'TOpen', 'C':'TPCLOSE', 'D':'TPrice', 'E':'THigh', 'F':'TLow', 'I':'TVol', 'J':'TAmt', 'e':'TDate', 'f':'TTime'}, inplace=True)
    .ix[:,[0,3,2,1,4,5,8,9,30,31]]
    .assign(
        TClose=lambda df: df['TPrice'],
        RT=lambda df: 100 * (df['TPrice']/quote_df['TPCLOSE'] - 1),
        TVol=lambda df: df['TVol']/TVOL_SCALE,
        TAmt=lambda df: df['TAmt']/TAMT_SCALE,
        STK_ID=lambda df: df['STK'].str.slice(13,19),
        STK_Name=lambda df: df['STK'].str.slice(21,30)#.decode('gb2312'),
        TDate=lambda df: df.TDate.map(lambda x: x[0:4]+x[5:7]+x[8:10]),
    )
)

使用分配。来自文档:为DataFrame分配新列,返回一个新对象(副本),其中包含所有原始列和新列。

参见Tom Augspurger关于熊猫方法链接的文章:《现代熊猫(第二部分):方法链接》

创建SettingWithCopyWarning是为了标记可能令人困惑的“链式”赋值,例如下面的赋值,它并不总是像预期的那样工作,特别是当第一个选择返回一个副本时。[背景讨论见GH5390和GH5597。]

df[df['A'] > 2]['B'] = new_val  # new_val not set in df

该警告提供了重写建议如下:

df.loc[df['A'] > 2, 'B'] = new_val

然而,这并不符合你的用法,这相当于:

df = df[df['A'] > 2]
df['B'] = new_val

虽然很明显,您并不关心写入操作是否使其返回到原始帧(因为您正在覆盖对它的引用),但不幸的是,此模式无法与第一个链式赋值示例区分开来。因此出现了(假阳性)警告。如果您想进一步阅读,在索引文档中讨论了假阳性的可能性。您可以使用以下赋值安全地禁用此新警告。

import pandas as pd
pd.options.mode.chained_assignment = None  # default='warn'

其他资源

pandas用户指南:索引和选择数据 Python数据科学手册:数据索引和选择 真正的Python: SettingWithCopyWarning在Pandas:视图vs副本 Dataquest: SettingwithCopyWarning:如何修复此警告在熊猫 走向数据科学:解释熊猫中copywarning的设置

一般来说,SettingWithCopyWarning的目的是向用户(尤其是新用户)表明,他们可能正在对一个副本进行操作,而不是他们所认为的原始版本。有假阳性(低,如果你知道你在做什么,它可能是好的)。一种可能是像@Garrett建议的那样关闭警告(默认为warn)。

这是另一种选择:

In [1]: df = DataFrame(np.random.randn(5, 2), columns=list('AB'))

In [2]: dfa = df.ix[:, [1, 0]]

In [3]: dfa.is_copy
Out[3]: True

In [4]: dfa['A'] /= 2
/usr/local/bin/ipython:1: SettingWithCopyWarning: A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_index,col_indexer] = value instead
  #!/usr/local/bin/python

你可以将is_copy标志设置为False,这将有效地关闭该对象的检查:

In [5]: dfa.is_copy = False

In [6]: dfa['A'] /= 2

如果显式复制,则不会发生进一步的警告:

In [7]: dfa = df.ix[:, [1, 0]].copy()

In [8]: dfa['A'] /= 2

上面OP显示的代码虽然是合法的,而且可能也是我所做的,但从技术上讲,它是这个警告的一个案例,而不是误报。另一种没有警告的方法是通过重新索引来执行选择操作,例如:

quote_df = quote_df.reindex(columns=['STK', ...])

Or,

quote_df = quote_df.reindex(['STK', ...], axis=1)  # v.0.21

当我执行这部分代码时,我也遇到了同样的警告:

def scaler(self, numericals):
    scaler = MinMaxScaler()
    self.data.loc[:, numericals[0]] = scaler.fit_transform(self.data.loc[:, numericals[0]])
    self.data.loc[:, numericals[1]] = scaler.fit_transform(self.data.loc[:, numericals[1]])

其中标量是一个MinMaxScaler和数字[0]包含三个我的数字列的名字。

当我将代码更改为:

def scaler(self, numericals):
    scaler = MinMaxScaler()
    self.data.loc[:][numericals[0]] = scaler.fit_transform(self.data.loc[:][numericals[0]])
    self.data.loc[:][numericals[1]] = scaler.fit_transform(self.data.loc[:][numericals[1]])

因此,只需将[:,~]改为[:][~]。

如何处理SettingWithCopyWarning在熊猫?

这篇文章的读者是:

想知道这个警告是什么意思吗 想了解压制这种警告的不同方法吗 想了解如何改进他们的代码,并遵循良好的实践,以避免在未来出现这种警告。

设置

np.random.seed(0)
df = pd.DataFrame(np.random.choice(10, (3, 5)), columns=list('ABCDE'))
df
   A  B  C  D  E
0  5  0  3  3  7
1  9  3  5  2  4
2  7  6  8  8  1

什么是SettingWithCopyWarning?

要知道如何处理这个警告,首先要理解它的含义以及为什么会提出这个警告。

过滤dataframe时,可以对帧进行切片/索引以返回视图或副本,这取决于内部布局和各种实现细节。顾名思义,“视图”是原始数据的视图,因此修改视图可能会修改原始对象。另一方面,“副本”是原始数据的复制,修改副本对原始数据没有影响。

正如其他答案所提到的,SettingWithCopyWarning被创建来标记“链式赋值”操作。考虑上面设置中的df。假设您想要选择列“B”中的所有值,其中列“A”中的值为> 5。Pandas允许您以不同的方式做到这一点,有些方式比其他方式更正确。例如,

df[df.A > 5]['B']

1    3
2    6
Name: B, dtype: int64

And,

df.loc[df.A > 5, 'B']

1    3
2    6
Name: B, dtype: int64

它们返回相同的结果,因此如果只读取这些值,则没有区别。那么,问题是什么呢?链式赋值的问题是,通常很难预测返回的是视图还是副本,所以当您试图赋值时,这在很大程度上成为一个问题。在前面例子的基础上,考虑一下这段代码是如何被解释器执行的:

df.loc[df.A > 5, 'B'] = 4
# becomes
df.__setitem__((df.A > 5, 'B'), 4)

用一个__setitem__调用df。OTOH,考虑下面的代码:

df[df.A > 5]['B'] = 4
# becomes
df.__getitem__(df.A > 5).__setitem__('B', 4)

现在,根据__getitem__返回的是视图还是副本,__setitem__操作可能无法工作。

一般来说,应该使用loc进行基于标签的赋值,使用iloc进行基于整数/位置的赋值,因为规范保证它们总是对原始值进行操作。此外,要设置单个单元格,应该使用at和iat。

更多信息可以在文档中找到。

请注意 所有用loc完成的布尔索引操作也可以用iloc完成。唯一的区别是iloc希望两者都有 索引的整数/位置或布尔值的numpy数组,以及 列的整数/位置索引。 例如, df.loc (df。A > 5, ' b '] = 4 可以写成nas df.iloc [(df。A > 5).values, 1] = 4 而且, df。loc[1, 'A'] = 100 可以写成 df。Iloc [1,0] = 100 等等。


告诉我怎么消除警告!

考虑df的“a”列上的一个简单操作。选择“A”并除以2将会发出警告,但操作是有效的。

df2 = df[['A']]
df2['A'] /= 2
/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/IPython/__main__.py:1: SettingWithCopyWarning:
A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_indexer,col_indexer] = value instead

df2
     A
0  2.5
1  4.5
2  3.5

有几种方法可以直接屏蔽这个警告:

(推荐)使用loc对子集进行切片: Df2 = df。loc [: [A]] df2['A'] /= 2 #不提升 改变pd.options.mode.chained_assignment 可以设置为None、warn或raise。“warn”是默认值。None将完全抑制警告,“raise”将抛出SettingWithCopyError,阻止操作进行。 pd.options.mode。chained_assignment =无 df2['A'] /= 2 制作深度拷贝 df2 = df[['A']]].copy(depth =True) df2['A'] /= 2

@Peter Cotton在评论中提出了一个很好的方法,使用上下文管理器非侵入性地改变模式(从这个要点修改),只在需要时设置模式,并在完成时将其重置回原始状态。

类ChainedAssignent: def __init__(self, chained=None): accept = [None, 'warn', 'raise'] Assert chained in acceptable, "chained must be in " + str(acceptable) 自我。被链住 def __enter__(自我): 自我。Saved_swcw = pd.options.mode.chained_assignment pd.options.mode。Chained_assignment = self.swcw 回归自我 Def __exit__(self, *args): pd.options.mode。Chained_assignment = self.saved_swcw

用法如下:

# Some code here
with ChainedAssignent():
    df2['A'] /= 2
# More code follows

或者,抛出异常

with ChainedAssignent(chained='raise'):
    df2['A'] /= 2

SettingWithCopyError:
A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_indexer,col_indexer] = value instead

“XY问题”:我做错了什么?

很多时候,用户试图寻找抑制这种异常的方法,而没有完全理解为什么会出现这种异常。这是XY问题的一个很好的例子,用户试图解决一个问题“Y”,而这个问题实际上是一个更深层次的问题“X”的症状。将根据遇到此警告的常见问题提出问题,然后将提出解决方案。

问题1 我有一个数据框架 df A bc d e 0 5 0 3 3 7 1 9 3 5 2 4 2 7 6 8 8 1 我想在col“A”> 5到1000中赋值。我的期望输出是 A bc d e 0 5 0 3 3 7 1 1000 3 5 2 4 2 1000 6 8 8 1

错误的做法:

df.A[df.A > 5] = 1000         # works, because df.A returns a view
df[df.A > 5]['A'] = 1000      # does not work
df.loc[df.A > 5]['A'] = 1000   # does not work

使用loc的正确方法:

df.loc[df.A > 5, 'A'] = 1000

问题21 我试图将单元格(1,'D')中的值设置为12345。我的期望输出是 A bc d e 0 5 0 3 3 7 1 9 3 5 1245 4 2 7 6 8 8 1 我试过各种方法进入这个细胞,比如 df [' D '][1]。最好的方法是什么? 1. 这个问题和警告没有特别的关系,但是 最好能理解如何正确地执行这个特定的操作 这样就可以避免出现警告可能出现的情况 的未来。

您可以使用以下任何一种方法来做到这一点。

df.loc[1, 'D'] = 12345
df.iloc[1, 3] = 12345
df.at[1, 'D'] = 12345
df.iat[1, 3] = 12345

问题3 我正在尝试基于某些条件的子集值。我有一个 DataFrame A bc d e 1 9 3 5 2 4 2 7 6 8 8 1 我想把“D”中的值赋给123,这样“C”== 5。我 试着 df2.loc[df2.C == 5, 'D'] = 123 这看起来很好,但我还是得到了 SettingWithCopyWarning !我怎么解决这个问题?

这实际上可能是因为管道中更高级别的代码。你是从更大的东西中创建df2的吗

df2 = df[df.A > 5]

? 在本例中,布尔索引将返回一个视图,因此df2将引用原始视图。你需要做的是将df2分配给一个副本:

df2 = df[df.A > 5].copy()
# Or,
# df2 = df.loc[df.A > 5, :]

问题4 我要把C列放到 A bc d e 1 9 3 5 2 4 2 7 6 8 8 1 但使用 df2。drop('C', axis=1, inplace=True) 抛出SettingWithCopyWarning。为什么会这样?

这是因为df2必须是作为其他切片操作的视图创建的,例如

df2 = df[df.A > 5]

这里的解决方案是创建df的copy(),或者像以前一样使用loc。