MongoDB
 sql >> база данни >  >> NoSQL >> MongoDB

Неуспешно намиране на източник на данни:com.mongodb.spark.sql.DefaultSource

Ето как го направих в тетрадка Jupyter:
1. Изтеглете буркани от централно или друго хранилище и ги поставете в директория, наречена "буркани":
mongo-spark-connector_2.11-2.4.0
mongo-java-driver-3.9.0
2. Създайте сесия и запишете/четете всякакви данни

from pyspark import SparkConf
from pyspark.sql import SparkSession
from pyspark.sql.functions import *
from pyspark.sql.types import *

working_directory = 'jars/*'

my_spark = SparkSession \
    .builder \
    .appName("myApp") \
    .config("spark.mongodb.input.uri=mongodb://127.0.0.1/test.myCollection") \
    .config("spark.mongodb.output.uri=mongodb://127.0.0.1/test.myCollection") \
    .config('spark.driver.extraClassPath', working_directory) \
    .getOrCreate()

people = my_spark.createDataFrame([("JULIA", 50), ("Gandalf", 1000), ("Thorin", 195), ("Balin", 178), ("Kili", 77),
                            ("Dwalin", 169), ("Oin", 167), ("Gloin", 158), ("Fili", 82), ("Bombur", 22)], ["name", "age"])

people.write.format("com.mongodb.spark.sql.DefaultSource").mode("append").save()

df = my_spark.read.format("com.mongodb.spark.sql.DefaultSource").load()
df.select('*').where(col("name") == "JULIA").show()

В резултат ще видите това:



  1. Redis
  2.   
  3. MongoDB
  4.   
  5. Memcached
  6.   
  7. HBase
  8.   
  9. CouchDB
  1. MongoError:свържете ECONNREFUSED 127.0.0.1:27017

  2. Как да вмъкнете MongoDB документ с клеймо за време от сървъра на базата данни

  3. Наблюдение на екземпляри на MongoDB с помощта на услуга за наблюдение на MongoDB (MMS)

  4. MongoEngine - Друг потребител вече е удостоверен в тази база данни. Първо трябва да излезете

  5. MongoDB - Връщане на id на вмъкнат елемент