Hola, Araceli
Si los videos que dices que envían los alumnos son archivos .mp4 o de otro tipo, suelen ser bastantes pesados, en general. Si son videos alojados en youtube o vimeo, no ocuparán prácticamente nada en tu Moodle.
Cuando termina un curso es preferible reiniciarlo (aunque entiendo que a veces no es posible, dependiendo de las políticas de la institución), en lugar de simplemente desmatricular los alumnos. Al desmatricularlos puede conservarse toda su información y los archivos asociados a su participación en el curso. De manera que si vuelves a matricularlos es posible recuperarlos, si tildas la opción "Es posible recuperar las calificaciones de usuario antiguas":
Una manera de poder hacer esa limpieza que necesitas sería volver a matricular los estudiantes en sus respectivos cursos, y luego reiniciar los cursos, a fin de eliminar toda la información asociada a ellos. ¡Ojo: tienen que ser cursos que no estén en desarrollo en este momento para que no pierdas la información y archivos actuales!
Encontrar los videos individualmente será sumamente difícil pues Moodle guarda los archivos en forma encriptada en la carpeta moodledata. No podrías saber cuáles son los archivos que necesitas eliminar y cuáles son otros que puedan estar en uso en algún curso actual.