Мисля, че тук има известно объркване.
mongod е "Mongo Daemon" това е основно хост процесът за базата данни. Когато стартирате mongod по същество казвате "стартирайте процеса на MongoDB и го стартирайте във фонов режим" . mongod има няколко параметъра по подразбиране, като например съхраняване на данни в /data/db и работи на порт 27017.
mongo е обвивката на командния ред, която се свързва с конкретен екземпляр на mongod . Когато стартирате mongo без параметри по подразбиране се свързва с локалния хост на порт 27017. Ако стартирате mongo срещу невалидна комбинация машина:порт, тогава тя няма да успее да се свърже (и да ви каже толкова).
В идеалния случай, когато правите нещо различно от просто "играене", ще използвате параметрите на командния ред за стартиране на mongod . По същата мярка трябва да стартирате mongo обвивка с изрични инструкции.
Въз основа на вашето описание мисля, че може да срещнете проблем относно използването на бази данни по подразбиране. Опитайте да стартирате mongo със следното (където dbname е името на вашата база данни)
./mongo localhost:27017/dbname