Das ist ein altes Problem. Die internen Backupfunktionen von Moodle entwickeln immensen Ressourcenhunger. Wenn du kannst, setze folgenden Wert der php.ini hoch:
memory_limit = 256M
Hast du große Dateien im Kurs, müssen die auch gepackt werden. Dazu braucht der PHP-interne Zipper mindestens die RAM-Größe der zu packenden Datei. MIt Standardeinstellungen vieler Hoster kommt man da nicht weit...
Gruß,
Maik