Благодаря за помощта на всички!
Оказа се, че това е конфликт на iptable. Две правила, изброяващи отворен порт (което доведе до затворен порт).
Въпреки това, един от коментарите на aka и друг от manu2013 бяха проблеми, с които щях да се сблъскам, ако не беше конфликтът.
Така! Винаги не забравяйте да редактирате /etc/mongod.conf
файл и задайте своя bind_ip = 0.0.0.0
за да осъществите външни връзки.
Също така се уверете, че нямате конфликтни правила във вашия iptable за порта, който mongo иска (вижте връзката на сайта на mongodb, за да настроите правилно вашите iptables).