може би защото е наименуван екземпляр на отдалечен сървър.
Наименуваният екземпляр не използва стандартния Tcp-порт 1433 на SQL Server, само стандартният (ненаименуван) екземпляр използва 1433 порт.
Всеки друг " named" просто слуша на друг порт.
Така че трябва да проверите в конфигуратора на SQL-Server кой TCP порт слуша и след това да кажете на клиента да се свърже с този порт.
Кажете, че вашият named" екземпляр слуша 12345 порт, тогава клиентът трябва да се свърже чрез следната команда
sqlcmd -S XXX.XXX.XXX.XXX,12345 -U sa -P mypass
когато посочите TCP порта, тогава нямате нужда от името на екземпляра.
По мое разбиране името на екземпляра е начин услугите на SQL Server да намерят TCP порта, който този наименуван екземпляр слуша .
Но за да работи това, вашият клиент трябва да има достъп до онези други услуги, които разрешават името на екземпляра на SQL Server (може би това е агентът на Sql сървъра / браузърът на SQL Server, но не съм сигурен)
Актуализация
Ето екранна снимка, която показва къде да зададете TPC порта за наименуван екземпляр на SQL Server. 
и така, на кой TCP порт слуша вашият именуван екземпляр на SQL Server?
