Имах точно този проблем с mysql/mariadb и получих ГОЛЯМА представа от този въпрос
Така че вашата команда pyspark трябва да бъде:
pyspark --conf spark.executor.extraClassPath=<jdbc.jar> --driver-class-path <jdbc.jar> --jars <jdbc.jar> --master <master-URL>
Също така внимавайте за грешки, когато pyspark стартира като „Предупреждение:Локален буркан... не съществува, прескача“. и „ГРЕШКА SparkContext:Jar не е намерен в ...“, това вероятно означава, че сте изписали пътя грешно.