Тъй като нямате уникален ключ, използвайте ctid
:
update medias m
set sort_order = new_sort_order
from (
select
ctid,
owner_user_id,
sort_order,
row_number() over w as new_sort_order
from medias
where visible
window w as (partition by owner_user_id order by sort_order asc, created_at asc)
) s
where m.ctid = s.ctid;
Забележка, row_number()
може да е по-добро от rank()
тъй като първият никога не дава дубликати.