chọn tổng qty từ 2 bảng

Có vẻ như bạn không sử dụng order bảng khác sau đó kiểm tra xem nó có tồn tại không, vì vậy bạn có thể sử dụng EXISTS()

SELECT p.product_id,sum(p.qty) as qty
FROM (SELECT product_id,qty,id_order FROM order_detail_1
      WHERE product_id IS NOT NULL
      UNION ALL 
      SELECT product_id,qty,id_order FROM order_detail_2
      WHERE product_id IS NOT NULL) p
WHERE EXISTS(SELECT 1 FROM order o 
             WHERE o.id = p.id_order)
GROUP BY p.product_id