Algorithme stochastique et recherche optimale...
Le 1er mars 2009 Voir les commentaires
Un algorithme [1] stochastique (par ex. gradient stochastique, recuit simulé,...) est un outil d’optimisation très puissant, particulièrement face à des problèmes difficiles.
- Itérations d’un algorithme stochastique
- (1) Exploration ; (2) Convergence vers l’objectif ; (3) Objectif manqué
Pour faire correctement son travail (cf. figure ci-dessus), l’algorithme a besoin dans un premier temps de beaucoup de liberté (1), ce qui lui permet d’explorer différentes régions de l’espace et ainsi découvrir dans quelle région se trouve la solution recherchée. C’est alors que l’algorithme peut affiner sa recherche et converger vers l’objectif défini (2). Supprimer cette première phase exploratoire peut avoir des conséquences fâcheuses : si les règles de décision de l’algorithme ne sont motivées que par des critères stricts d’optimisation, l’algorithme se précipite sur la première solution à sa portée (3). Cette solution est rarement la solution optimale qu’une stratégie à plus long terme aurait permis d’atteindre...
Je vous invite maintenant à relire ce paragraphe en remplaçant « algorithme » par « chercheur »...
Une possible relecture : si l’ANR permet souvent de voir aboutir avec succès son travail de recherche (2), il ne faut pas oublier tout le travail réalisé en amont, se souvenir du temps « perdu » à chercher dans de « mauvaises » directions, des « erreurs » commises, bref, de tous ces errements qui se sont finalement avérés fructueux (1). Vouloir « optimiser » le système de recherche français, par exemple en transformant en agence de moyens un institut de recherche comme le CNRS, risque de conduire à de sérieuses désillusions (3)...
Notes
[1] Un algorithme est un processus systématique de résolution, par le calcul, d’un problème permettant de présenter les étapes vers le résultat à une autre personne physique (un autre humain) ou virtuelle (un calculateur). En d’autres termes, un algorithme est un énoncé d’une suite d’opérations permettant de donner la réponse à un problème.
Partager cet article
Pour citer cet article :
Marc Lavielle — «Algorithme stochastique et recherche optimale...» — Images des Mathématiques, CNRS, 2009
Laisser un commentaire
Actualités des maths
-
11 mai 2022Printemps des cimetières
-
3 mai 2022Comment les mathématiques se sont historiquement installées dans l’analyse économique (streaming, 5/5)
-
1er avril 2022Prix D’Alembert 2022 attribué à Jean-Michel Blanquer
-
10 mars 2022Géométries non euclidiennes mais dynamiques
-
6 mars 2022Contrôle et apprentissage automatique (streaming, 10/3)
-
24 février 2022Bienvenue au CryptoChallenge 2022 « Qui a volé les plans d’Ada Lovelace ? »
Commentaire sur l'article