Как трябва да сменя своя sql, за да получа това, което искам в този случай?

Можете да използвате row_number за да изберете редовете с най-голяма дата за стойност

select * from (
    select t2.id2, t1.date, t2.data, 
        row_number() over (partition by t2.data order by t1.date desc) rn
    from table1 t1
    join table2 t2 on t1.id = t2.id2
) t where rn = 1