Вашият файл с източник на данни трябва да има:
"host": "database"
...
тъй като в docker-compose.yml свързвате mongo контейнер към loopback като database , така че не е localhost . Не забравяйте, че се опитвате да се свържете с mongo от докер контейнер за обратна връзка. Също така трябва да се уверите, че mongo е стартирано преди loopback, така че добавете depends_on: database към loopback услуга в docker-compose.yml.