Ако те разбирам правилно, искаш първо да подредиш семействата по името на титуляра, а след това по имената на зависимите. Следното прави това.
with family_order as (
select idfamily, rownum r from (
select idfamily from costumer where relation = 'H' order by name
)
)
select c.* from costumer c
inner join family_order fo on c.idfamily = fo.idfamily
order by fo.r, relation desc, name
