如何在PySpark中更改数据帧列名?

我来自熊猫的背景，我习惯了从CSV文件读取数据到一个dataframe，然后简单地改变列名使用简单的命令有用的东西:

df.columns = new_column_name_list

然而，这在使用sqlContext创建的PySpark数据框架中是行不通的。我能想到的唯一解决办法是:

df = sqlContext.read.format("com.databricks.spark.csv").options(header='false', inferschema='true', delimiter='\t').load("data.txt")
oldSchema = df.schema
for i,k in enumerate(oldSchema.fields):
  k.name = new_column_name_list[i]
df = sqlContext.read.format("com.databricks.spark.csv").options(header='false', delimiter='\t').load("data.txt", schema=oldSchema)

这基本上是定义变量两次，首先推断模式，然后重命名列名，然后用更新的模式再次加载数据框架。

有没有更好更有效的方法来做到这一点，就像我们对熊猫做的那样?

我的Spark版本是1.5.0

当前回答

这是一个用循环重命名多个列的简单方法:

cols_to_rename = ["col1","col2","col3"]

for col in cols_to_rename:
  df = df.withColumnRenamed(col,"new_{}".format(col))

2022-08-25 08:46:03

其他回答

如果你想对所有列名应用一个简单的转换，这段代码可以做到:(我用下划线替换所有空格)

new_column_name_list= list(map(lambda x: x.replace(" ", "_"), df.columns))

df = df.toDF(*new_column_name_list)

感谢@user8117731的toDf技巧。

2018-04-13 15:17:41

您可以放入for循环，并使用zip将两个数组中的每个列名配对。

new_name = ["id", "sepal_length_cm", "sepal_width_cm", "petal_length_cm", "petal_width_cm", "species"]

new_df = df
for old, new in zip(df.columns, new_name):
    new_df = new_df.withColumnRenamed(old, new)

2020-10-16 07:14:35

最接近df的表述。Columns = new_column_name_list为:

import pyspark.sql.functions as F
df = df.select(*[F.col(name_old).alias(name_new) 
                 for (name_old, name_new) 
                 in zip(df.columns, new_column_name_list)]

这并不需要任何很少使用的函数，并强调了一些在Spark中非常有用的模式。如果你发现这一行代码做了太多的事情，你也可以拆分这些步骤:

import pyspark.sql.functions as F
column_mapping = [F.col(name_old).alias(name_new) 
                  for (name_old, name_new) 
                  in zip(df.columns, new_column_name_list)]
df = df.select(*column_mapping)

2022-12-19 23:30:36

对于单个列重命名，仍然可以使用toDF()。例如,

df1.selectExpr("SALARY*2").toDF("REVISED_SALARY").show()

2017-06-27 14:42:33

试试下面的方法。下面的方法允许您重命名多个文件的列

参考:https://www.linkedin.com/pulse/pyspark-methods-rename-columns-kyle-gibson/

df_initial = spark.read.load('com.databricks.spark.csv')
    
    rename_dict = {
      'Alberto':'Name',
      'Dakota':'askdaosdka'
    }
    
    df_renamed = df_initial \
    .select([col(c).alias(rename_dict.get(c, c)) for c in df_initial.columns])

    
     rename_dict = {
       'FName':'FirstName',
       'LName':'LastName',
       'DOB':'BirthDate'
        }

     return df.select([col(c).alias(rename_dict.get(c, c)) for c in df.columns])


df_renamed = spark.read.load('/mnt/datalake/bronze/testData') \
.transform(renameColumns)

2022-01-30 04:50:48

如何在PySpark中更改数据帧列名?

推荐文章

最新文章

标签