Bonsoir Vincent,
Ça dépend du type de plugin. Les plugins thèmes sont dans le dossier /moodle/theme, les plugins types de questions sont dans le sous-dossier /moodle/question/type et ainsi de suite. Quand tu as des plugins tiers et que tu veux mettre à jour manuellement ton site, il y a pas mal de manips à faire.
Pour éviter tout ça, j'ai maintenant installé une version de moodle avec github (voir cette discussion: https://docs.moodle.org/3x/fr/Git_pour_administrateurs).
Sinon, il faut que tu crées dans un dossier hors Moodle une arborescence avec tous les plugins tiers que tu as installés. Tu renommes ton dossier qui contient ta version 3.8 en /moodle_old par exemple, puis tu recrées un dossier /moodle où tu dézippes l'ensemble de ta version 3.9. Tu copies le fichier config.php depuis ton dossier /moodle_old. Enfin, tu copies le contenu du dossier qui contient tous tes plugins tiers dans ton nouveau dossier /moodle.
Si tout fonctionne, tu peux supprimer le dossier /moodle_old.
Mais franchement, passes à une installation avec git. L'avantage est que dès que tu veux faire une mise à jour de ton site Moodle, ça se fait en une seule commande pour les mises à jours mineures et en deux ou trois commandes pour les mises à jour plus importantes.
Je t'invite à suivre la discussion que j'avais créée à l'époque où j'ai choisi de passer à github: https://moodle.org/mod/forum/discuss.php?d=375745