Moodle умеет слать почту из php несколькими разными способами, там две или три библиотеки разных есть для этого. Но все эти библиотеки проводят к тому, что сам php открывает сессию до сервера и ждет ответа, потом закрывает. Так как у вас сервера далеко и подключение идет по https, то php должен открыть обычное соеднинение, дождаться ответа с сертификатом, проверить сертификат, подключиться с этим сертификатом и создать https канал, подключиться по этому каналу к серверу, получить запрос логина, отправить логин, получить запрос пароля, отправить пароль, получить ответ о том, что всё в порядке и только после этого уже отправлять письмо (ну или много писем в зависимости от настроек). Это всё очень долгие процедуры, свзязанные с ожиданием данных из сети. Всё это время php сидит и ждёт ответа, грузит процессор, занимает память, не разрывает соединение с базой данных. Использовать php для вещей, которые он умеет делать плохо, не стоит. Именно поэтому у нас и стоит локальный почтовый сервер и 1000 писем в сессию.
А задача ваша находится в Администрирование - Сервер - Планировщик задач - \mod_forum\task\cron_task, \core\task\calendar_cron_task
Может быть у вас там за nginx стоит fastcgi и у nginx разрешено много процессов, а у fastcgi - мало и всё утыкается в него?
И cron у вас как работает, через php из командной строки или через запрос к веб-серверу. Если первое, то даже и не смотрите на настройки веб-серверов и php, потому что у php в командной строке отдельный файл конфигурации. Если же второе, то переделайте, чтобы было первое.