Du kan bruge et udtryk i en ORDER BY. Prøv dette:
SELECT *
FROM comments
ORDER BY IF(ParentId = 0, Id, ParentId), Id
Dette vil først sortere efter Id, hvis ParentId =0, eller efter ParentId ellers. Det andet sorteringskriterium er Id for at sikre, at svar returneres i rækkefølge.