Tienes algunos errores
a la respuesta no se le coloca el simbolo de "=", (siempre que comienzo a utilizar la plataforma me equivoque en esto y duro horas en darme cuenta), segundo tampoco se colocan corchetes que encierren toda la ecuación y si es menos el valor de una variable debes colocar -{b} y no {-b}, además asegúrate que los valores de tus variables generen un radicando positivo en la raíz cuadrada, tengo entendido que la plataforma no trabaja con números complejos. Finalmente utiliza la jerarquía de operaciones por lo que el numerador debemos colocarlo entre paréntesis, la ecuación que quieres escribir es la siguiente si no he cometido algún error:
({-b}+sqrt(pow({b},2)-(4*{a}*{b})))/(2*{a})