ORA-01797:този оператор трябва да бъде последван от грешка ANY или ALL

Просто използвайте date ключова дума и ISO константи:

select *
from file_log f
where F.DCP_SRCE_FILENM_FK in ('ABC','DEF') and
      F.TRANS_DT >= date '2017-08-25' and
      F.TRANS_DT <= date '2017-08-30';

Получавате грешката, защото втората константа липсва to_date() . Но можете също така да използвате правилния синтаксис за константа за дата.