Раз у вас ошибка gateway timeout, предполагаю, что сайт у вас за реверсным прокси или какой-то подобной технологией. Пропишите себе в файл hosts прямой IP, чтобы протестировать ситуацию. Возможно, что у вас отправка почты пользователю занимеает 10 минут, а прокси ждёт реакции 5 минут. После этого включите отладку в режим разработчка и посмотрите, нет ли ошибок. Могу предположить, что на почтовом сервере что-то сломалось, поэтому он долго не отвечает, а moodle терпеливо ждёт