Първо, имайте предвид, че REGEXP_REPLACE може да съответства на низовете частично , и нямате нужда от .* преди и след търсена дума.
\ char трябва да се екранира, за да се дефинира буквална обратна наклонена черта, тъй като \ сам по себе си позволява екраниращи символи за MySQL двигателя. Вижте тази документация за MySQL 8
:
Следователно имате нужда от
REGEXP_LIKE("aaa abc ccc", "\\babc\\b")