熊猫数据帧拷贝警告

当你这样做的时候:

quote_df = quote_df.ix[:,[0,3,2,1,4,5,8,9,30,31]]

熊猫。在这种情况下，Ix返回一个新的、独立的数据框架。

任何你决定在这个数据框架中改变的值，都不会改变原始数据框架。

这就是熊猫想要警告你的。

---

为什么。ix是个坏主意

.ix对象试图做不止一件事，对于任何读过干净代码的人来说，这是一种强烈的气味。

给定这个数据框架:

df = pd.DataFrame({"a": [1,2,3,4], "b": [1,1,2,2]})

两个行为:

dfcopy = df.ix[:,["a"]]
dfcopy.a.ix[0] = 2

行为一:dfcopy现在是一个独立的数据框架。改变它不会改变df

df.ix[0, "a"] = 3

行为二:这将改变原始的数据框架。

---

请改用.loc

pandas开发人员意识到.ix对象很臭(推测性的)，因此创建了两个新对象来帮助添加和分配数据。(另一个是。iloc)

.loc更快，因为它不尝试创建数据的副本。

.loc的目的是修改现有的数据帧，这是更有效的内存。

.loc是可预测的，它有一个行为。

---

解决方案

您在代码示例中所做的是加载一个包含许多列的大文件，然后将其修改为较小的文件。

pd。Read_csv函数可以帮助您解决这些问题，并使文件的加载速度更快。

所以不这样做

quote_df = pd.read_csv(StringIO(str_of_all), sep=',', names=list('ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefg')) #dtype={'A': object, 'B': object, 'C': np.float64}
quote_df.rename(columns={'A':'STK', 'B':'TOpen', 'C':'TPCLOSE', 'D':'TPrice', 'E':'THigh', 'F':'TLow', 'I':'TVol', 'J':'TAmt', 'e':'TDate', 'f':'TTime'}, inplace=True)
quote_df = quote_df.ix[:,[0,3,2,1,4,5,8,9,30,31]]

这样做

columns = ['STK', 'TPrice', 'TPCLOSE', 'TOpen', 'THigh', 'TLow', 'TVol', 'TAmt', 'TDate', 'TTime']
df = pd.read_csv(StringIO(str_of_all), sep=',', usecols=[0,3,2,1,4,5,8,9,30,31])
df.columns = columns

这将只读取您感兴趣的列，并正确地命名它们。不需要使用邪恶的.ix对象来做神奇的事情。

这里我直接回答这个问题。我们该如何应对呢?

在切片后创建.copy(deep=False)。看到pandas.DataFrame.copy。

等等，切片不是会返回副本吗?毕竟，这就是警告信息试图表达的意思?阅读长答案:

import pandas as pd
df = pd.DataFrame({'x':[1,2,3]})

这给出了一个警告:

df0 = df[df.x>2]
df0['foo'] = 'bar'

这不是:

df1 = df[df.x>2].copy(deep=False)
df1['foo'] = 'bar'

df0和df1都是DataFrame对象，但它们的某些不同之处使pandas能够打印警告。让我们来看看它是什么。

import inspect
slice= df[df.x>2]
slice_copy = df[df.x>2].copy(deep=False)
inspect.getmembers(slice)
inspect.getmembers(slice_copy)

使用你选择的diff工具，你会发现除了几个地址之外，唯一的实质性区别是:

|          | slice   | slice_copy |
| _is_copy | weakref | None       |

决定是否警告的方法是DataFrame。_check_setitem_copy检查_is_copy。给你。做一个拷贝，这样你的DataFrame就不是_is_copy。

警告建议使用.loc，但如果您在_is_copy的帧上使用.loc，仍然会得到相同的警告。误导?是的。烦人吗?你的赌注。有用吗?可能，当使用链式赋值时。但是它不能正确地检测链赋值，并且不加区别地输出警告。

有些人可能只是想压制这个警告:

class SupressSettingWithCopyWarning:
    def __enter__(self):
        pd.options.mode.chained_assignment = None

    def __exit__(self, *args):
        pd.options.mode.chained_assignment = 'warn'

with SupressSettingWithCopyWarning():
    #code that produces warning

为了消除任何疑问，我的解决方案是对切片进行深度复制，而不是常规复制。 这可能不适用，这取决于你的上下文(内存限制/片的大小，潜在的性能下降-特别是如果复制发生在一个循环中，就像它对我做的那样，等等…)

澄清一下，以下是我收到的警告:

/opt/anaconda3/lib/python3.6/site-packages/ipykernel/__main__.py:54:
SettingWithCopyWarning: A value is trying to be set on a copy of a slice from a DataFrame
See the caveats in the documentation:
http://pandas.pydata.org/pandas-docs/stable/indexing.html#indexing-view-versus-copy

插图

我怀疑警告之所以被抛出，是因为我在切片的副本上放置了一列。虽然从技术上讲没有尝试在切片的副本中设置值，但这仍然是对切片副本的修改。

以下是我所采取的(简化的)步骤来确认怀疑，我希望它能帮助那些试图理解警告的人。

例1:删除原始数据上的一列会影响副本

我们已经知道了，但这是一个健康的提醒。这不是警告的内容。

>> data1 = {'A': [111, 112, 113], 'B':[121, 122, 123]}
>> df1 = pd.DataFrame(data1)
>> df1

    A    B
0    111    121
1    112    122
2    113    123


>> df2 = df1
>> df2

A    B
0    111    121
1    112    122
2    113    123

# Dropping a column on df1 affects df2
>> df1.drop('A', axis=1, inplace=True)
>> df2
    B
0    121
1    122
2    123

可以避免在df1上所做的更改影响df2。注意:你可以通过执行df.copy()来避免导入copy.deepcopy。

>> data1 = {'A': [111, 112, 113], 'B':[121, 122, 123]}
>> df1 = pd.DataFrame(data1)
>> df1

A    B
0    111    121
1    112    122
2    113    123

>> import copy
>> df2 = copy.deepcopy(df1)
>> df2
A    B
0    111    121
1    112    122
2    113    123

# Dropping a column on df1 does not affect df2
>> df1.drop('A', axis=1, inplace=True)
>> df2
    A    B
0    111    121
1    112    122
2    113    123

例2:删除副本上的一列可能会影响原始数据

这实际上说明了警告。

>> data1 = {'A': [111, 112, 113], 'B':[121, 122, 123]}
>> df1 = pd.DataFrame(data1)
>> df1

    A    B
0    111    121
1    112    122
2    113    123

>> df2 = df1
>> df2

    A    B
0    111    121
1    112    122
2    113    123

# Dropping a column on df2 can affect df1
# No slice involved here, but I believe the principle remains the same?
# Let me know if not
>> df2.drop('A', axis=1, inplace=True)
>> df1

B
0    121
1    122
2    123

可以避免在df2上所做的更改影响df1

>> data1 = {'A': [111, 112, 113], 'B':[121, 122, 123]}
>> df1 = pd.DataFrame(data1)
>> df1

    A    B
0    111    121
1    112    122
2    113    123

>> import copy
>> df2 = copy.deepcopy(df1)
>> df2

A    B
0    111    121
1    112    122
2    113    123

>> df2.drop('A', axis=1, inplace=True)
>> df1

A    B
0    111    121
1    112    122
2    113    123

这个话题真的让熊猫很困惑。幸运的是，它有一个相对简单的解决方案。

问题是数据过滤操作(例如loc)是否返回DataFrame的副本或视图并不总是明确的。因此，进一步使用这种过滤后的DataFrame可能会令人困惑。

简单的解决方案是(除非你需要处理非常大的数据集):

无论何时需要更新任何值，总是确保在赋值之前显式复制DataFrame。

df  # Some DataFrame
df = df.loc[:, 0:2]  # Some filtering (unsure whether a view or copy is returned)
df = df.copy()  # Ensuring a copy is made
df[df["Name"] == "John"] = "Johny"  # Assignment can be done now (no warning)

创建SettingWithCopyWarning是为了标记可能令人困惑的“链式”赋值，例如下面的赋值，它并不总是像预期的那样工作，特别是当第一个选择返回一个副本时。[背景讨论见GH5390和GH5597。]

df[df['A'] > 2]['B'] = new_val  # new_val not set in df

该警告提供了重写建议如下:

df.loc[df['A'] > 2, 'B'] = new_val

然而，这并不符合你的用法，这相当于:

df = df[df['A'] > 2]
df['B'] = new_val

虽然很明显，您并不关心写入操作是否使其返回到原始帧(因为您正在覆盖对它的引用)，但不幸的是，此模式无法与第一个链式赋值示例区分开来。因此出现了(假阳性)警告。如果您想进一步阅读，在索引文档中讨论了假阳性的可能性。您可以使用以下赋值安全地禁用此新警告。

import pandas as pd
pd.options.mode.chained_assignment = None  # default='warn'

---

其他资源

pandas用户指南:索引和选择数据 Python数据科学手册:数据索引和选择 真正的Python: SettingWithCopyWarning在Pandas:视图vs副本 Dataquest: SettingwithCopyWarning:如何修复此警告在熊猫 走向数据科学:解释熊猫中copywarning的设置