А, чакай - мисля, че го имам. Ако направя нещо подобно, изглежда, че работи:
null = u'\u0000'
new_df = df.withColumn('e', regexp_replace(df['e'], null, ''))
И след това съпоставяне към всички низови колони:
string_columns = ['d','e']
new_df = df.select(
*(regexp_replace(col(c), null, '').alias(c) if c in string_columns else c for
c in df.columns)
)