С вашия оригинален SQL като база (ако искате да сортирате първо за id и след това за sub_id):
$sql="select * from gallery group by sub_id order by id desc, subid desc limit 0,4";
Ако не е предназначен за премахване на "дубликатите", тогава следният sql може да се използва вместо горния:
$sql="select * from gallery order by id desc, subid desc limit 0,4";