Ikke rigtig. Have-sætningen indebærer en aggregering, hvilket betyder, at du ikke længere har de originale rækker.
Jeg tror, du vil have følgende:
DELETE from UserPredictions
where UserId in (select UserId from UserPredictions group by UserId having count(*) < 500)