Не е намерен подходящ драйвер за jdbc в Spark

Трябваше да добавя driver опция, когато използвате sparkSession read функция.

.option("driver", "org.postgresql.Driver")

var jdbcDF - sparkSession.read
  .option("driver", "org.postgresql.Driver")
  .option("url", "jdbc:postgresql://<host>:<port>/<DBName>")
  .option("dbtable", "<tableName>")
  .option("user", "<user>")
  .option("password", "<password>")
  .load()

В зависимост от това как са настроени вашите зависимости, ще забележите, че когато включите нещо като compile group: 'org.postgresql', name: 'postgresql', version: '42.2.8' в Gradle, например, това ще включва класа Driver в org/postgresql/Driver.class , и това е този, който искате да инструктирате Spark да зареди.