Групирайте, като не работите с 2 полета сума

Проблемът е, че store с id 1 има два съответстващи записа в store_sub таблица, което означава, че qty полето ще се появи два пъти за магазин 1. Трябва да сумирате 2-те таблици отделно в подзаявки и да обедините сумираните версии заедно:

select t1.department, t1.sqty, t2.ssubqty
from
  (select department, sum(qty) as sqty from store group by department) t1
left join
  (select s2.department, s1.sum(sub_qty) as ssubqty
   from store_sub s1
   inner join store s2 on s1.parent_id=s2.id
   group by s2.department) t2 on t1.department=t2.department