Това, което търсите, е launchctl limit maxfiles
.
За да го промените, трябва да изпълните командата launchctl limit maxfiles 1024 2048
например.
За да промените за постоянно тези стойности, трябва да създадете /etc/launchctl.conf и да зададете там необходимите стойности (вижте тук
за подробности) или добавете командата, спомената по-горе, към вашия ~/.bash_profile.
Или можете да създадете скрипт, който ще зададе лимит и след това да стартира mongo