Ved første rødme lyder det for mig, som om dit SQL Server Management Studio opretter forbindelse via et andet netværksbibliotek, såsom Named Pipes, mens sqlcmd-klienten forsøger at oprette forbindelse via TCP, og serveren ikke lytter der (eller måske på en ikke-standard port). Det er derfor, du får TCP-fejlen i sidstnævnte tilfælde.