От малко гугъл и тази нишка в reddit , определих, че трябва да зададете локала по подразбиране.
Така че командата, която работи за мен, беше:
mysqldump --default-character-set=latin1 --lock-tables=false --single-transaction=TRUE --host=$HOST --user=$USER --password=$PASSWORD $DB
Използвах както таблици за заключване, така и единична транзакция, защото имам комбинация от таблици myisam и innodb.