Interessant spørgsmål. Desværre MYSQL understøtter ikke recursive queries , så du skal være lidt kreativ her. Noget som dette kunne fungere:
select flag,
sum(calc)
from (
select flag,
(num-if(@prevflag=flag,@prevnum,0))*val calc,
@prevnum:=num prevnum,
@prevflag:=flag prevflag
from yourtable
join (select @prevnum := 0, @prevflag := 0) t
order by flag
) t
group by flag