High-dimensional Gaussian model selection on a Gaussian design

Abstract

We consider the problem of estimating the conditional mean of a real Gaussian variable Y=∑_i=1^pθ_iX_i+ɛ where the vector of the covariates (X_i)_1≤i≤p follows a joint Gaussian distribution. This issue often occurs when one aims at estimating the graph or the distribution of a Gaussian graphical model. We introduce a general model selection procedure which is based on the minimization of a penalized least squares type criterion. It handles a variety of problems such as ordered and complete variable selection, allows to incorporate some prior knowledge on the model and applies when the number of covariates p is larger than the number of observations n. Moreover, it is shown to achieve a non-asymptotic oracle inequality independently of the correlation structure of the covariates. We also exhibit various minimax rates of estimation in the considered framework and hence derive adaptivity properties of our procedure.

Nous nous intéressons à l’estimation de l’espérance conditionelle d’une variable Gaussienne. Ce problème est courant lorsque l’on veut estimer le graphe ou la distribution d’un modèle graphique gaussien. Dans cet article, nous introduisons une procédure de sélection de modèle basée sur la minimisation d’un critére des moindres carrés pénalisés. Cette méthode générale permet de traiter un grand nombre de problèmes comme la sélection ordonnée ou la sélection complête de variables. De plus, elle reste valable dans un cadre de « grande dimension »: lorsque le nombre de covariables est bien plus élevé que le nombre d’observations. L’estimateur obtenue vérifie une inégalité oracle non-asymptotique et ce quelque soit la corrélation entre les covariables. Nous calculons également des vitesses minimax d’estimation dans ce cadre et montrons que notre procédure vérifie diverses propriétés d’adaptation.