Для набора формул использую плагин TeX. Чтобы изменить размер формулы в настройках есть параметр "Плотность (Density)". Изменяю его значения, однако, размер формул не меняется. Очень большой...
После изменения параметра нужно почистить кэш Мудл, чтобы формулы создались заново.
В версии Мудл 1.9.х - очистить содержимое таблицы БД cache_filters.
В 2.4-2.5 - "Очистить все кэши", не поможет - очистить таблицу cache_filters.