Med din originale SQL som base (hvis du først vil sortere efter id og derefter efter sub_id):
$sql="select * from gallery group by sub_id order by id desc, subid desc limit 0,4";
Hvis det ikke er meningen at fjerne "duplikaterne", kan følgende sql bruges i stedet for ovenstående:
$sql="select * from gallery order by id desc, subid desc limit 0,4";