我使用spark-csv加载数据到一个DataFrame。我想做一个简单的查询并显示内容:

val df = sqlContext.read.format("com.databricks.spark.csv").option("header", "true").load("my.csv")
df.registerTempTable("tasks")
results = sqlContext.sql("select col from tasks");
results.show()

山坳似乎被截断了:

scala> results.show();
+--------------------+
|                 col|
+--------------------+
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:15:...|
|2015-11-06 07:15:...|
|2015-11-16 07:15:...|
|2015-11-16 07:21:...|
|2015-11-16 07:21:...|
|2015-11-16 07:21:...|
+--------------------+

如何显示列的全部内容?


当前回答

试试这个命令:

df.show(df.count())

其他回答

结果。Show (20, false)不会截断。检查来源

20是在不带任何参数的情况下调用show()时显示的默认行数。

用Spark python的方式,记住:

如果你必须从数据帧中显示数据,使用show(truncate=False)方法。 否则,如果你必须从流数据帧视图(结构化流)显示数据,使用writeStream.format("console")。option("truncate", False).start()方法

希望它能帮助到一些人。

results.show(20,false)在Scala中为我做到了这一点。

在Databricks中,您可以以表格格式可视化数据帧。使用命令:

display(results)

它看起来就像

Results.show (false)将显示完整的列内容。

Show方法默认限制为20行,在false前添加数字将显示更多行。