sql >> Database teknologi >  >> NoSQL >> MongoDB

hvordan man bruger Spark-submit-konfiguration:jars,packages:i klyngetilstand?

Din brug af --packages argumentet er forkert:

--packages com.mongodb.spark:hdfs:///user/liac/package/jars/mongo-spark-connector_2.11-1.0.0-assembly.jar:1.0.0

Det skal være i form af groupId:artifactId:version som outputtet antyder. Du kan ikke bruge en URL med den.

Et eksempel på brug af mongoDB med spark med den indbyggede lagerunderstøttelse:

$SPARK_HOME/bin/spark-shell --packages org.mongodb.spark:mongo-spark-connector_2.11:1.0.0

Hvis du insisterer på at bruge din egen krukke, kan du give den via --repositories . Værdien af ​​argumentet er

For eksempel kan det i dit tilfælde være

--repositories hdfs:///user/liac/package/jars/ --packages org.mongodb.spark:mongo-spark-connector_2.11:1.0.0



  1. i React kalder jeg to lister til side fra mongo, og jeg vil klikke på en for at filtrere, hvad der vises i en anden

  2. Forskellen mellem id- og _id-felter i MongoDB

  3. MongoDB $dateToString

  4. Upsert indlejret dokument i yiimongodbsuite