JdS2012


 English   -  Français  

Résumé de communication



Résumé 23 :

Prevision PAC-bayésienne pour le modele additif sous contrainte de parcimonie
Guedj, Benjamin ; Alquier, Pierre ; Biau, Gérard ; Moulines, Éric
LSTA-UPMC

Au cours des dernières années, de nombreuses méthodes d’estimation et de sélection de variables ont été proposées pour résoudre des problèmes de régression en grande dimension sous contrainte de parcimonie. Contrairement à des procédures bien connues comme le LASSO, nous cherchons à nous affranchir autant que possible d’hypothèses sur la matrice des régresseurs. Afin de construire explicitement un algorithme de prévision pour un modèle de régression classique, le modèle additif, nous nous intéressons à l’estimateur de Gibbs, utilisé dans un contexte proche dans Catoni (2004) et Alquier et Biau (2011). Cet estimateur est construit à l’aide d’une loi a priori favorisant les solutions parcimonieuses. Nous justifions notre démarche en fournissant une inégalité oracle PAC-bayésienne et une implémentation explicite se fondant sur une variété d’algorithmes MCMC introduite dans Petralias et Dellaportas (2011).