Предполагам, че или отговорът се извежда като обикновен двоичен код, който не е кодиран base64 (все още е буфер), или е компресиран (gzip) отговор, който първо трябва да бъде декомпресиран.
Трудно е обаче да се определи проблема, без да се види кодът.
АКТУАЛИЗАЦИЯ:
Изглежда, че липсват правилните заглавки на отговора.
Опитайте да зададете тези заглавки преди downloadStream.pipe(res)
:
res.setHeader('Content-disposition', 'attachment; filename=test.pdf');
res.set('Content-Type', 'application/pdf');