A resposta acima acho que é o suficiente para ajuda-lo, porem aconselho que procure uma ajuda tecnica especializada.
O seu servidor ou sua rede pode estar sofrendo algum tipo de ataque interno ou externo, ou podem estar usando seu servidor como zumbi. Aconselho a visita de um profissional tecnico, se mesmo assim o problema persistir uma visita de um especialista em segurança será bem vinda.
Como dito acima o Wireshark é uma otima ferramenta, tanto pra windows como pra linux porem necessita de um pouco de conhecimento tecnico.
Voce pode tambem instalar um controlador de banda como o MRTG para verificar se o consumo de banda vem realmente do moodle ou de outro site hospedado no servidor ou de nenhum deles.