Du kan bruge bogstavelige citater:
stmt := q'[insert into MY_TBL (Col) values('ER0002')]';
Dokumentation for bogstaver kan findes her.
Alternativt kan du bruge to citater til at angive et enkelt citat:
stmt := 'insert into MY_TBL (Col) values(''ER0002'')';
Den bogstavelige citeringsmekanisme med Q-syntaksen er mere fleksibel og læsbar, IMO.