Реших го сам.
Също така трябваше да спомена, че се опитвам да се свържа от друга машина към екземпляра на MongoDB. Това не е позволено с предварително зададените MongoDB.
Така че трябваше да променя във файла /etc/mongod.conf стойността зад bindIp от 127.0.0.1 до 0.0.0.0.
