Трябва да инсталирате postgresql-server-dev-X.Y за изграждане на разширение от страна на сървъра или libpq-dev за изграждане на приложение от страна на клиента.
Не е необходимо да посочвате конкретна версия на PG във вашия Gemfile
И така:
sudo apt install ruby-dev libpq-dev build-essential