sparkR：实例化“org.apache.spark.sql.hive.HiveSessionState”时出错：

Question

当我尝试使用sparkR时，我正在努力解决这个问题。

sparkR.session(master = "local[*]", sparkConfig = list(spark.driver.memory = "1g"))
Error in handleErrors(returnStatus, conn) : 
  java.lang.IllegalArgumentException: Error while instantiating 'org.apache.spark.sql.hive.HiveSessionState':
    at org.apache.spark.sql.SparkSession$.org$apache$spark$sql$SparkSession$$reflect(SparkSession.scala:981)
    at org.apache.spark.sql.SparkSession.sessionState$lzycompute(SparkSession.scala:110)
    at org.apache.spark.sql.SparkSession.sessionState(SparkSession.scala:109)
    at org.apache.spark.sql.api.r.SQLUtils$$anonfun$setSparkContextSessionConf$2.apply(SQLUtils.scala:67)
    at org.apache.spark.sql.api.r.SQLUtils$$anonfun$setSparkContextSessionConf$2.apply(SQLUtils.scala:66)
    at scala.collection.TraversableLike$WithFilter$$anonfun$foreach$1.apply(TraversableLike.scala:733)
    at scala.collection.Iterator$class.foreach(Iterator.scala:893)
    at scala.collection.AbstractIterator.foreach(Iterator.scala:1336)
    at scala.collection.IterableLike$class.foreach(IterableLike.scala:72)
    at scala.collection.AbstractIterable.foreach(Iterable.scala:54)
    at scala.collection.Traversabl

希望这是一个明确的解决方案，我是 Spark 新手，对 java scala 一无所知。非常感谢！

Answer 1

我也有同样的错误。看起来和用户权限有关。因此你有两个选择：

1) 从您拥有必要权限的目录启动sparkR（先决条件：spark bin 文件夹需要包含在PATH 环境变量中：

export PATH=$SPARK_HOME/bin:$PATH

）：

cd ~
sparkR

2）使用 sudo 权限启动 SparkR：

/opt/spark/bin $ sudo ./sparkR

Answer 2

请尝试从环境变量中删除

HADOOP_CONF_DIR