Спасибо за помощь и ссылки, как всегда в moodle все непросто, неоднозначно и предполагает множество путей.
Получается в данный момент у меня работает только MathJax, и по сути, я теряю некоторый функционал со сложными формулами, которые все равно бы не работали, т.к. на сервере у меня не установлены локальные библиотеки.
В общем все теперь работает, глючная картинка не раздражает каждый раз. А контекстное меню действительно убирается добавлением в параметрах строчки showMathMenu: false
MathJax.Hub.Config({
config: ["Accessible.js", "Safe.js"],
errorSettings: { message: ["!"] },
skipStartupTypeset: true,
messageStyle: "none",
showMathMenu: false
});