Verifique se o seu CRON está habilitado e rodando corretamente, pois existem algumas tarefas que são responsáveis pela limpeza do sistema como um todo.
Creio que estamos falando das tarefas:
Excluir arquivos temporários obsoletos \core\task\file_temp_cleanup_task
Limpar arquivos na lixeira \core\task\file_trash_cleanup_task
Já tive um problema parecido, porém o Moodle acabou caindo por conta do espaço em disco. Sendo assim tais backups acabaram criando um problemão. Entrei na pasta temp e excluí todos os arquivos na mão mesmo.
Essa rotina é executada de tempos em tempos, logo medidas desse tipo só devem ser executadas em último caso. Ou seja, uma vez que os backups foram excluídos via interface devemos esperar o Moodle executar a tarefa de exclusão automática.
Para verificar se o CRON está habilitado e rodando acesse /admin e se não tiver essa mensagem: "O script de manutenção cli/cron.php não é executado há pelo menos 24 horas." você pode apenas esperar.
Qualquer dúvida sobre o funcionamento do cron acesse: https://docs.moodle.org/all/pt_br/Cron