Du kan bruge ISNUMERIC funktion:
select * from table where isnumeric(mycolumn) = 0
Hvis du tillader NULL-værdier i din kolonne, skal du også tilføje et tjek for NULL, da ISNUMERIC(NULL) evalueres også til 0
select * from table where isnumeric(mycolumn) = 0 or mycolumn is not null