Hola José,
Creo que estás mezclando muchas cosas y pareciera que unas determinan a otras, pero no es así.
Una cosa es si conviene o no combinar tags HTML v5 en un documento XHTML Strict v1.
La respuesta es un "no" rotundo.
¿Puedes hacerlo? Sí.
¿Qué comportamientos no esperados pudieran presentarse?
Bueno, si no son esperados, cómo quieres que uno los sepa.
Lo que sí, es que tendrán que ver con los navegadores de Internet.
Algunos interpretarán ciertas cosas, algunos otras, todos lo mismo, modificarán su comportamiento, no lo harán.... quién sabe....
Por otro lado, el tag <video> no es indispensable para desplegar contenido en un dispositivo móvil.
¿Por qué no lo haces "a la antigüita"?
Esto tendrás que investigarlo por tu cuenta.
Otra idea: Moodle no te va a avisar si una página es o no compatible con cierto estándar.
Eso lo sabes usando herramientas como el validador del W3C.
Y lo de Flash y lo de tu SCO, pues no sé.
Un SCO (osea otro tema muy diferente a los tratados aquí) no tiene que ser necesariamente en Flash o incluir algún componente desarrollado con esta tecnología.
Entonces, puedes usar lo que desees.
Pero ahí ya dependerá de tus capacidades técnicas (la interactividad bien puede lograrse con JS, pero puede ser un poco complicado programarla).
Incorporar un video en un SCO es, desde mi punto de vista, algo análogo a incluir una imagen. No veo problema en este sentido.
Saludos