На сайте http://physics.nad.ru/latex.html синтаксис написания формул немного отличается, некоторые формулы будут нормально рендериться толко с помощью mimetex, например - последняя с вашего скриншота. MathJax даже красным выделяет то, что не понимает. Кроме того, некоторые команды в moodle занесены в черный список (blacklist), например, команда \line.
Эта формула нормально обрабатывается в MathJax c ограничителями \( и \)
A=\begin{pmatrix}
a_{11} & a_{12} & \cdots & a_{1n} \\
a_{21} & a_{22} & \cdots & a_{2n} \\
\vdots & \vdots & \ddots & \vdots \\
a_{n1} & a_{n2} & \cdots & a_{nn}
\end{pmatrix}
формулы почему то по центру веб-страницы становятся
Потому что это формулы в отдельной строке (outline), т. к. используются ограничители формул $$ и у них такой стиль css
Используйте слэши со скобками, как тут,
формула будет в одной строке с текстом \( A = \begin{pmatrix}
a_{11} & a_{12} & \cdots & a_{1n} \\
a_{21} & a_{22} & \cdots & a_{2n} \\
\vdots & \vdots & \ddots & \vdots \\
a_{n1} & a_{n2} & \cdots & a_{nn}
\end{pmatrix}\)
У меня на сайтах включены все фильтры, первым будет срабатывать тот, кот. стоит выше в списке. Кроме того, в настройках фильтров конкретного элемента курса можно управлять фильтрами. Создали, например, страницу с формулами, кот. должны обрабатываться в MathJax, зайдите в настройки фильтров этой страницы, отключите ТЕХ, оставьте MathJax