Endelig fandt jeg svaret på mit problem. Teoretisk er længdegrad x-aksen og breddegrad er y-aksen. Men vi er vant til breddegrad-længdegrad snarere end længde-breddegrad...Så den måde, jeg søgte på, var forkert
$near : [msg.lat, msg.lng]
Da jeg ændrede dette til $near :[msg.lng, msg.lat] , det begyndte at fungere selv med 5 km... Så bestilling var problemet.