Tive o seguinte problema ao atualizar da versão 1.5.4 para a versão 1.8.
Sorry, but your database is not already in Unicode, and this version of Moodle is not able to migrate your database to Unicode. Please upgrade to Moodle 1.7.x first and perform the Unicode migration from the Admin page. After that is done you should be able to migrate to Moodle 2007021505
A resposta está na própria mensagem. Tem sempre de passar pela versão 1.7 e só depois pode fazer o upgrade para versões posteriores. Caso assim não fosse, o processo de migração ficaria cada vez mais longo e penoso. Vai ter mudanças que chegem ao passar para a 1.7, incluindo para além dos caracteres unicode, papeis e permissões. É bom que faça um backup na versão actual, na versão 1.7 e após completar o upgrade, na versão 1.8. Boa sorte.