next up previous contents
suivant: Hessienne et covariances d'erreur monter: Algorithmes de descente précédent: Quasi-Cauchy   Table des matières

Mise à l'échelle de la matrice diagonale

Si on effectue un développement limité de $ \nabla J(x_{k+1})$ au voisinage de $ x_k$ , on obtient :

$\displaystyle \begin{array}{lcl} & & \nabla J(x_{k+1}) = \nabla J(x_k) + \nabl... ...x_k) + \ldots [0.2cm] (i.e.) & & y_k \approx \nabla^2J(x_k).s_k \end{array} $

et donc, pour que $ W_k$ soit une bonne approximation de $ \left[ \nabla^2 J(x_k)\right]^{-1}$ , on peut imposer à $ W_k$ de vérifier $ W_ky_k=s_k$ le long de $ y_k$ , c'est-à-dire vérifier la relation de quasi-Cauchy :

$\displaystyle \langle W_ky_k,y_k\rangle = \langle y_k,s_k\rangle.$ (3.7)

Par conséquent, il faudra effectuer avant (ou éventuellement après) la mise à jour de la matrice diagonale une mise à l'échelle, de sorte que la nouvelle matrice diagonale ait la bonne propriété. Il conviendra donc de multiplier $ D$ par $ \displaystyle \frac{\langle y,s \rangle}{\langle Dy,y \rangle}$ .

Cette mise à l'échelle permet d'économiser un certain nombre d'itérations et d'évaluations de la fonction coût et de son gradient [19].

L'impact de cette mise à jour sera étudié par la suite pour les trois premières formules de mise à jour du préconditionneur diagonal. En effet, cette mise à l'échelle n'a aucun sens dans le cas de la formule de quasi-Cauchy (3.6) puisque par construction, la nouvelle matrice diagonale vérifie déjà la condition (3.7).

next up previous contents
suivant: Hessienne et covariances d'erreur monter: Algorithmes de descente précédent: Quasi-Cauchy   Table des matières
Retour à la page principale