如何在PySpark中更改数据帧列名?

我来自熊猫的背景，我习惯了从CSV文件读取数据到一个dataframe，然后简单地改变列名使用简单的命令有用的东西:

df.columns = new_column_name_list

然而，这在使用sqlContext创建的PySpark数据框架中是行不通的。我能想到的唯一解决办法是:

df = sqlContext.read.format("com.databricks.spark.csv").options(header='false', inferschema='true', delimiter='\t').load("data.txt")
oldSchema = df.schema
for i,k in enumerate(oldSchema.fields):
  k.name = new_column_name_list[i]
df = sqlContext.read.format("com.databricks.spark.csv").options(header='false', delimiter='\t').load("data.txt", schema=oldSchema)

这基本上是定义变量两次，首先推断模式，然后重命名列名，然后用更新的模式再次加载数据框架。

有没有更好更有效的方法来做到这一点，就像我们对熊猫做的那样?

我的Spark版本是1.5.0

当前回答

df = df.withColumnRenamed("colName", "newColName")\
       .withColumnRenamed("colName2", "newColName2")

使用这种方式的优点:对于一个很长的列列表，您只需要更改几个列名。这在这些场景中非常方便。在连接具有重复列名的表时非常有用。

2016-03-30 07:25:17

其他回答

我喜欢使用字典重命名df。

rename = {'old1': 'new1', 'old2': 'new2'}
for col in df.schema.names:
    df = df.withColumnRenamed(col, rename[col])

2020-11-03 11:51:44

如果你想对所有列名应用一个简单的转换，这段代码可以做到:(我用下划线替换所有空格)

new_column_name_list= list(map(lambda x: x.replace(" ", "_"), df.columns))

df = df.toDF(*new_column_name_list)

感谢@user8117731的toDf技巧。

2018-04-13 15:17:41

如果您想更改所有列名，请尝试df.toDF(*cols)

2017-06-06 05:52:10

试试下面的方法。下面的方法允许您重命名多个文件的列

参考:https://www.linkedin.com/pulse/pyspark-methods-rename-columns-kyle-gibson/

df_initial = spark.read.load('com.databricks.spark.csv')
    
    rename_dict = {
      'Alberto':'Name',
      'Dakota':'askdaosdka'
    }
    
    df_renamed = df_initial \
    .select([col(c).alias(rename_dict.get(c, c)) for c in df_initial.columns])

    
     rename_dict = {
       'FName':'FirstName',
       'LName':'LastName',
       'DOB':'BirthDate'
        }

     return df.select([col(c).alias(rename_dict.get(c, c)) for c in df.columns])


df_renamed = spark.read.load('/mnt/datalake/bronze/testData') \
.transform(renameColumns)

2022-01-30 04:50:48

最简单的解决方案是使用withcolumnrename:

renamed_df = df.withColumnRenamed(‘name_1’, ‘New_name_1’).withColumnRenamed(‘name_2’, ‘New_name_2’)
renamed_df.show()

如果你想这样做，就像我们对Pandas做的那样，你可以使用toDF:

创建一个新列的顺序列表并将其传递给toDF

df_list = ["newName_1", “newName_2", “newName_3", “newName_4"]
renamed_df = df.toDF(*df_list)
renamed_df.show()

2022-04-02 09:42:53

如何在PySpark中更改数据帧列名?

推荐文章

最新文章

标签