Реших този проблем, като предварително компилирах ODBC драйвер 17 за SQL Server на машина с Ubuntu 18.04 и копирах libmsodbcsql-17.5.so.2.1 и msodbcsqlr17.rll файлове в подходящи директории чрез Heroku buildpack. Това е ODBC драйвер 17.5 за SQL Server и вероятно няма да компилирам други версии на този драйвер, но си представям, че концепцията остава същата.
Heroku buildpack и неговите изисквания могат да бъдат намерени тук https://github.com/matt-bertoncello/python-pyodbc-buildpack.git
