Được rồi, tôi đã tìm ra vấn đề. Đó là do công nhân hết giờ.
try:
--my code goes here--
except Exception, ex:
self.error += 1
with open("error.txt", "a") as myfile:
myfile.write('\n%s' % sys.exc_info()[0] + "{}".format(self.url))
pass
Vì vậy, theo mã của tôi, miền tiếp theo được định giá lại nếu 200 (các) url được tìm nạp từ mỗi miền. Nhưng đối với một số miền, không có đủ số lượng url để điều kiện kết thúc (như chỉ 1 hoặc 2 url).
Vì mã bắt tất cả các ngoại lệ và thêm vào error.txt
tập tin. Ngay cả ngoại lệ thời gian chờ rq rq.timeouts.JobTimeoutException
đã bị bắt và được thêm vào tệp. Do đó, làm cho nhân viên phải đợi x
lượng thời gian dẫn đến việc nhân viên bị thôi việc.