résumé de ce qui va suivre : si les fonctions de R dans R sont dérivables, les fonctions de R^p dans R peuvent être différentiables et on peut associer en tout point une dérivée de ce genre de fonction un vecteur qui est le gradient et qui généralise la dérivée mais dans R^p, et il y a des règles de calculs qui rappellent le cas fonction de R dans R.
la fonction qui à beta (disons que beta est dans R^p) associe y^Ty - 2beta^TX^Ty + beta^TX^TXbeta + lambda beta^T beta (le numérateur dans l'image) est une fonction de R^p dans R. comme les fonctions de R dans R, il peut être intéressant de voir comment l'image de cette fonction varie si tu fais bouger un peux beta. Pour cela tu peux considérer la différentielle en tout point (point que tu appelles beta, par abus), qui est une application linéaire de R^p dans R. Cette application linéaire, tu la représente matriciellement dans les bases canoniques de R^p et R, ça te donne un vecteur ligne de taille p. Tu prends la transposée de ce vecteur ça te donne un vecteur colonne qui est le gradient de l'application prise au point beta. Il y a des règles de calculs qui font que tu aboutis à la deuxième ligne
En fait, ce gradient n'est rien d'autre que le vecteur des dérivées partielles de la fonction : la coordonnée i du gradient c'est la dérivée de l'application qui au réel beta_i associe ||y_Xbeta||^2 sachant que les autres beta_j sont fixés. Ca permet de quantifier l'influence de chaque coordonnées de beta dans les variations de la fonction.
ce qui est calculé ici c'est le gradient
il faut que tu ouvres un cours de calcul différentiel (ça se fait en L1 parfois donc tu peux regarder les cours de L1) si tu n'as absolument jamais vu ces notions
