Можете да използвате буквално цитиране:
stmt := q'[insert into MY_TBL (Col) values('ER0002')]';
Документация за литералите може да бъде намерена тук.
Като алтернатива можете да използвате две кавички, за да обозначите един кавичък:
stmt := 'insert into MY_TBL (Col) values(''ER0002'')';
Механизмът за буквално цитиране със синтаксиса Q е по-гъвкав и четим, IMO.
