Din brug af --packages
argumentet er forkert:
--packages com.mongodb.spark:hdfs:///user/liac/package/jars/mongo-spark-connector_2.11-1.0.0-assembly.jar:1.0.0
Det skal være i form af groupId:artifactId:version
som outputtet antyder. Du kan ikke bruge en URL med den.
Et eksempel på brug af mongoDB med spark med den indbyggede lagerunderstøttelse:
$SPARK_HOME/bin/spark-shell --packages org.mongodb.spark:mongo-spark-connector_2.11:1.0.0
Hvis du insisterer på at bruge din egen krukke, kan du give den via --repositories
. Værdien af argumentet er
For eksempel kan det i dit tilfælde være
--repositories hdfs:///user/liac/package/jars/ --packages org.mongodb.spark:mongo-spark-connector_2.11:1.0.0