我来自熊猫的背景，我习惯了从CSV文件读取数据到一个dataframe，然后简单地改变列名使用简单的命令有用的东西:
df.columns = new_column_name_list
然而，这在使用sqlContext创建的PySpark数据框架中是行不通的。
我能想到的唯一解决办法是:
df = sqlContext.read.format("com.databricks.spark.csv").options(header='false', inferschema='true', delimiter='\t').load("data.txt")
oldSchema = df.schema
for i,k in enumerate(oldSchema.fields):
k.name = new_column_name_list[i]
df = sqlContext.read.format("com.databricks.spark.csv").options(header='false', delimiter='\t').load("data.txt", schema=oldSchema)
这基本上是定义变量两次，首先推断模式，然后重命名列名，然后用更新的模式再次加载数据框架。
有没有更好更有效的方法来做到这一点，就像我们对熊猫做的那样?
我的Spark版本是1.5.0
最简单的解决方案是使用withcolumnrename:
renamed_df = df.withColumnRenamed(‘name_1’, ‘New_name_1’).withColumnRenamed(‘name_2’, ‘New_name_2’)
renamed_df.show()
如果你想这样做，就像我们对Pandas做的那样，你可以使用toDF:
创建一个新列的顺序列表并将其传递给toDF
df_list = ["newName_1", “newName_2", “newName_3", “newName_4"]
renamed_df = df.toDF(*df_list)
renamed_df.show()
最接近df的表述。Columns = new_column_name_list为:
import pyspark.sql.functions as F
df = df.select(*[F.col(name_old).alias(name_new)
for (name_old, name_new)
in zip(df.columns, new_column_name_list)]
这并不需要任何很少使用的函数，并强调了一些在Spark中非常有用的模式。如果你发现这一行代码做了太多的事情，你也可以拆分这些步骤:
import pyspark.sql.functions as F
column_mapping = [F.col(name_old).alias(name_new)
for (name_old, name_new)
in zip(df.columns, new_column_name_list)]
df = df.select(*column_mapping)
