Вам нужно писать свой собственный плагин атентификации или модернизировать существующий. Найдите в auth/db/auh.php кусок кода
if ($this->config->passtype === 'md5') { // Re-format password accordingly.
$extpassword = md5($extpassword);
} else if ($this->config->passtype === 'sha1') {
$extpassword = sha1($extpassword);
}
и переправьте его под ваш способ шифрования паролей