永远不要增长数据框架!

是的，人们已经解释了，你不应该增长一个DataFrame，你应该追加你的数据到一个列表，并转换为一个DataFrame一旦结束。但你知道为什么吗?

以下是最重要的原因，摘自我在这里的帖子。

它总是更便宜/更快地追加到一个列表和创建一个DataFrame。 列表占用更少的内存，并且是一种更轻的数据结构，可以处理、添加和删除。 为您的数据自动推断d类型。另一方面，创建一个空的nan帧将自动使它们成为对象，这是不好的。 索引是自动为您创建的，而不是您必须小心地将正确的索引分配给您追加的行。

这是正确的方式™积累您的数据

data = []
for a, b, c in some_function_that_yields_data():
    data.append([a, b, c])

df = pd.DataFrame(data, columns=['A', 'B', 'C'])

这些选择都很糟糕

在循环内追加或连接 Append和concat单独在本质上并不坏。的 当您在循环中迭代调用它们时，问题就开始了 结果在二次内存使用。 #创建空数据框架并追加 Df = pd。DataFrame(columns=['A'， 'B'， 'C']) 对于some_function_that_yields_data()中的a, b, c: Df = Df。追加({A:我,B: B, C: C}, ignore_index = True) #这同样糟糕: # df = pd.concat( # df, pd。({'A': i， 'B': B， 'C': C})]， # ignore_index = True) 清空nan的数据帧 永远不要创建nan的数据帧，因为列是初始化的 对象(缓慢的、不可向量化的dtype)。 #创建nan的数据帧并覆盖值。 Df = pd。DataFrame(列= [' A ', ' B ', ' C '],指数=范围(5)) 对于some_function_that_yields_data()中的a, b, c: df.loc[len(df)] = [a, b, c]

见分晓

对这些方法进行计时是了解它们在内存和效用方面有多大不同的最快方法。

基准测试代码供参考。

像这样的帖子提醒了我为什么我是这个社区的一员。人们明白教人们用正确的代码得到正确答案的重要性，而不是用错误的代码得到正确答案。现在，您可能会争辩说，如果您只是向DataFrame添加一行，那么使用loc或append都不是问题。然而，人们经常会在这个问题上添加不止一行——通常要求是使用来自函数的数据在循环中迭代地添加一行(参见相关问题)。在这种情况下，重要的是要理解迭代增长DataFrame不是一个好主意。

如果你可以提前获得数据帧的所有数据，有一个比追加到数据帧更快的方法:

创建一个字典列表，其中每个字典对应一个输入数据行。 从这个列表创建一个数据帧。

我有一个类似的任务，一行一行地添加到一个数据帧花了30分钟，从字典列表中创建一个数据帧在几秒钟内完成。

rows_list = []
for row in input_rows:

        dict1 = {}
        # get input row in dictionary format
        # key = col_name
        dict1.update(blah..) 

        rows_list.append(dict1)

df = pd.DataFrame(rows_list)               

另一种方法(可能不是很有效):

# add a row
def add_row(df, row):
    colnames = list(df.columns)
    ncol = len(colnames)
    assert ncol == len(row), "Length of row must be the same as width of DataFrame: %s" % row
    return df.append(pd.DataFrame([row], columns=colnames))

你也可以像这样增强DataFrame类:

import pandas as pd
def add_row(self, row):
    self.loc[len(self.index)] = row
pd.DataFrame.add_row = add_row

我们经常看到结构df。loc[下标]=…分配给一个数据帧行。Mikhail_Sam发布了包含这个构造以及使用dict并最终创建DataFrame的方法的基准测试。他发现后者是目前为止最快的。

但是如果我们替换df3。loc[i] =…(与预分配的DataFrame)在他的代码df3。值[i] =…时，结果会发生显著变化，因为该方法的执行与使用dict的方法类似。所以我们应该经常使用df。考虑[下标]=…但是请注意，.values有一个从零开始的下标，这可能与DataFrame.index不同。

与ShikharDua的答案(基于行)中的字典列表不同，我们也可以将我们的表表示为一个列表字典(基于列)，其中每个列表按行顺序存储一列，前提是我们事先知道我们的列。最后，我们构造一次DataFrame。

在这两种情况下，字典键始终是列名。行顺序隐式存储为列表中的order。对于c列和n行，它使用一个c个字典列表，而不是一个n个字典列表。字典列表方法让每个字典冗余地存储所有键，并且需要为每一行创建一个新字典。这里我们只追加到列表中，这总体上是相同的时间复杂度(向列表和字典中添加条目都是平摊常数时间)，但由于操作简单，开销可能更小。

# Current data
data = {"Animal":["cow", "horse"], "Color":["blue", "red"]}

# Adding a new row (be careful to ensure every column gets another value)
data["Animal"].append("mouse")
data["Color"].append("black")

# At the end, construct our DataFrame
df = pd.DataFrame(data)
#   Animal  Color
# 0    cow   blue
# 1  horse    red
# 2  mouse  black

你可以使用pandas.concat()。有关详细信息和示例，请参见合并、连接和连接。

例如:

def append_row(df, row):
    return pd.concat([
                df, 
                pd.DataFrame([row], columns=row.index)]
           ).reset_index(drop=True)

df = pd.DataFrame(columns=('lib', 'qty1', 'qty2'))
new_row = pd.Series({'lib':'A', 'qty1':1, 'qty2': 2})

df = append_row(df, new_row)