MongoDB
 sql >> база данни >  >> NoSQL >> MongoDB

как да използвам Spark-submit конфигурация:буркани, пакети:в клъстерен режим?

Вашето използване на --packages аргументът е грешен:

--packages com.mongodb.spark:hdfs:///user/liac/package/jars/mongo-spark-connector_2.11-1.0.0-assembly.jar:1.0.0

Трябва да е под формата на groupId:artifactId:version както предполага изходът. Не можете да използвате URL с него.

Пример за използване на mongoDB с spark с поддръжката на вграденото хранилище:

$SPARK_HOME/bin/spark-shell --packages org.mongodb.spark:mongo-spark-connector_2.11:1.0.0

Ако настоявате да използвате свой собствен буркан, можете да го предоставите чрез --repositories . Стойността на аргумента е

Например във вашия случай може да е

--repositories hdfs:///user/liac/package/jars/ --packages org.mongodb.spark:mongo-spark-connector_2.11:1.0.0



  1. Redis
  2.   
  3. MongoDB
  4.   
  5. Memcached
  6.   
  7. HBase
  8.   
  9. CouchDB
  1. Как да получа отрицанието на mongoid заявка?

  2. Използване на генератори на Active Record след инсталиране на Mongoid?

  3. Как да използвате променливи във функцията за намаляване на картата на MongoDB

  4. Качване на файл Node.js (Express 4, MongoDB, GridFS, GridFS-Stream)

  5. Осредняване на поле за поддокумент между документи в Mongo