Парсеры на Python с использованием Scrapy для сбора смс-сообщений с различных источников и пересылка их по API к нам на сайт.
На текущий момент своими силами перевели работу с сообщениями (смс) на redis, но после этого начались проблемы с соединениями.
Нужно изучить логи, выявить ошибки и устранить их.
Рекомендация, попробовать использовать persistent коннекты.
Основная цель снизить нагрузку на БД postgres, посредством перехода на Redis. В итоге не должно отличаться время смс (у нас и на источники откуда парсим) + не должно быть дублей смс.
Логи по ссылке https://drive.google.com/file/d/1aAT-NJ6RH7YmucmzJB1gy5J8Dib6ZuVk/view?usp=sharing