Bornes asymptotiques pour des bruits de loi inconnue

On consid`ere le probl`eme de l’estimation de la fonction S en un point fixe z0 ∈]0; 1[, o`u l’on dispose des observations r´egies par le mod`ele autor´egressif suivant yk = S(xk)yk−1 + ξk ,1 6 k 6 n, (2.1) les r´egresseurs xk = k/n ´etant d´eterministes, y0 ´etant une constante et les variables al´eatoires ξk ind´ependantes, identiquement distribu´ees, avec Eξk = 0 et Eξk2 = 1.

Le mod`ele (2.1) est une g´en´eralisation du processus autor´egressif du premier ordre. De tels mod`eles sont utilis´es dans les s´eries temporelles et leurs applications. L’int´erˆet des s´eries temporelles peut apparaˆıtre dans diff´erents domaines : par exemple en fi-nance pour d´ecrire les prix d’actifs risqu´es et des indices, pour des processus de type GARCH, ARCH(1) et pour des mod`eles bilin´eaires et ARMA (Embrechts, Kluppel-berg et Mikosch [1997]). Un autre domaine d’application des mod`eles autor´egressifs est l’´econom´etrie avec les mod`eles a` d´ecalages temporels. En effet la th´eorie ´economique pos-tule couramment non pas des effets synchrones mais des effets retard´es et les mod`eles autor´egressifs peuvent d´ecrire des variables retard´ees, aussi bien des variables endog`enes que des variables exog`enes (Goldfeld et Quandt [1972]). On trouve aussi des applications des mod`eles autor´egressifs en biologie. par exemple des ´etudes au sein du laboratoire de g´en´etique mol´eculaire, ´evolutive et m´edicale (LGMEM) de L’INSERM de la facult´e de m´edecine Necker a` Paris ont permis a` Guyon [2007] d’´elaborer un mod`ele qui permet la d´etection du vieillissement cellulaire. En utilisant le Th´eor`eme central limite et la loi des grands nombres pour un processus stochastique il arrive a` d´etecter le vieillissement cellulaire d’une bact´erie ”cherichia coli” grˆace aux donn´ees exp´erimentales collect´ees dans le LGMEM et ´etudie la bifurcation des mod`eles autor´egressifs.

Les processus autor´egressifs ont et´ consid´er´es aussi bien dans le cadre param´etrique que non param´etrique. Par exemple le probl`eme de l’estimation de fonctions param´etriques a et´ etudi´ dans Dahlhaus [1996b] o`u l’auteur s’est int´eress´ au comportement de l’esti-mateur du maximum de vraisemblance Gaussienne pour les s´eries temporelles qui ont un comportement localement stationnaire.

De plus, Dahlhaus [1996b] ´etudie les propri´et´es spectrales du processus stationnaire (2.1) avec la fonction non param´etrique S.

Ce chapitre traite l’estimation non param´etrique de la fonction autor´egressive S en un point z0, o`u la r´egularit´ de S est suppos´ee connue. Pour ce probl`eme nous utilisons l’estimateur `a noyau modifi´e

On suppose d’abord que la fonction inconnue S appartient `a la classe H¨olderienne locale stable au point z0 avec une r´egularit´ connue β ∈]1, 2]. Cette classe sera d´efinie par la suite. On trouve une borne inf´erieure asymptotique positive (quand n → ∞) pour le risque minimax avec le coefficient de normalisation

Dans ce chapitre on prouve que l’estimateur (2.2) avec les relations (2.4)–(2.6) est asymptotiquement minimax, i.e. on d´emontre que la borne sup´erieure asymptotique du risque maximal de celui-ci par rapport `a la classe H¨olderienne est finie.

En deuxi`eme lieu on ´etudie les propri´et´es asymptotiques pour l’estimateur minimax (2.2). Pour cela, comme dans Galtchouk et Pergamenshchikov [2006a] on introduit la  classe H¨olderienne faible locale stable. Dans ce cas nous obtenons une borne asymptotique inf´erieure strictement positive pour le risque minimax avec la vitesse de convergence ϕn. Par ailleurs, on d´emontre que pour l’estimateur (2.2), avec les relations (2.4)–(2.5) et la fonction noyau Q = 1[−1,1], la borne sup´erieure asymptotique du risque maximal co¨ıncide avec la borne inf´erieure, i.e. dans ce cas l’estimateur est asymptotiquement efficace.

Ce probl`eme d’estimation a et´ etudi´ dans le cas d’une fonction de r´egression H¨old´eri-enne et cette derni`ere a et´ etudi´ee par de nombreux auteurs. Par exemple Sacks et Ylvi-saker [1981] ont montr´e que l’estimateur lin´eaire minimax est un estimateur `a noyau. Do-noho et Liu [1991] ont ensuite obtenu des noyaux optimaux pour des classes H¨old´eriennes. En ce qui concerne l’estimation de la fonction ou de ses k -i`emes d´eriv´ees avec la perte globale associ´ee `a la norme sup, Korostelev [1993] et Donoho [1994a] ont montr´e qu’un certain estimateur `a noyau est asymptotiquement efficace.

Un exemple pour lequel le comportement asymptotique exact du risque minimax a et´ d´ecouvert est l’estimation de fonctions H¨old´eriennes avec le risque L∞. En effet, Korostelev [1993] fournit la borne asymptotique exacte du risque minimax ainsi qu’un estimateur asymptotiquement efficace d’une fonction de r´egression appartenant a` Σ(L, β), β ∈]0; 1]. Par la suite, toujours pour l’estimation d’une fonction de Σ(L, β), β > 0, ou de ses d´eriv´ees en norme L∞, Donoho [1994a] dans un mod`ele de bruit blanc gaussien puis Korostelev et Nussbaum [1999] dans un mod`ele de densit´ obtiennent des r´esultats similaires. En s’int´eressant a` l’estimation d’une fonction de r´egression H¨old´erienne de r´egularit´ β ∈]1; 2[ avec le risque li´e a` la fonction de perte absolue, Galtchouk et Pergamenshchikov [2006a] ont ´etabli l’efficacit´ asymptotique d’un estimateur a` noyau et la borne asymptotique exacte du risque minimax sur une classe H¨old´erienne plus faible, la vitesse de convergence optimale ´etant nβ/(2β+1).

Un autre exemple de comportement asymptotique exact du risque minimax provient de l’estimation de fonctions de r´egression analytiques (cf. Golubev et al. [1996]) ou d’une densit´ analytique (cf. Golubev et Levit [1996]) avec le risque L∞. Ces r´esultats ont et´ ´etendus par Guerre et Tsybakov [1998] au mod`ele de bruit blanc gaussien avec le risque Lp, p ∈ [1; ∞[.

Belitser [2000b] consid`ere le mod`ele pr´ec´edent avec des conditions lipschitziennes. L’auteur propose un estimateur r´ecursif pour le probl`eme de l’estimation de la fonction autor´egressive. Avec le risque quadratique, Belitser [2000b] ´etablit une vitesse de conver-gence sans d´emontrer son optimalit´e.

Moulines et al. [2005] d´emontrent que la vitesse de convergence est optimale pour le risque quadratique en utilisant des m´ethodes r´ecursives pour le mod`ele autor´egressif non param´etrique d’ordre d ≥ 1. Notons que dans ce chapitre nous ´etablissons une vitesse de convergence optimale mais le risque consid´er´ est diff´erent de celui utilis´e dans Moulines et al. [2005], et les hypoth`eses y sont plus faibles.

On traite ici de l’estimation non param´etrique d’une fonction autor´egressive appar-tenant a` une classe H¨old´erienne faible. Le risque d’un estimateur est bas´e sur la perte associ´ee a` l’erreur absolue. L’objectif est de trouver un estimateur asymptotiquement ef-ficace. Dans ce but, on utilise la m´ethode d´evelopp´ee par Galtchouk et Pergamenshchikov [2006a] qui ont introduit les classes H¨old´eriennes faibles pour d´efinir le risque d’un esti-mateur. On travaille donc sur les classes Uδ,n(β)(z0, ε) qui autorisent les fonctions `a poss´eder une d´eriv´ee arbitrairement grande mais qui contraignent ces fonctions `a une condition H¨old´erienne bas´ee sur une constante H¨old´erienne faible tendant vers z´ero (voir (2.12)).

Puis on d´efinit le risque robuste Rn(Sn, S) d’un estimateur Sn de S(z0) et le risque mini- infRn˜, S) (voir (2.7)). max(Sn S˜n

La prochaine section pr´esente le probl`eme dans le cas de bruits de loi inconnue, les hypoth`eses requises et tous les objets math´ematiques n´ecessaires. La borne inf´erieure asymptotique du risque minimax et un estimateur asymptotiquement efficace sont ob-tenus a` la Section 3. Enfin l’Annexe A contient des r´esultats techniques utiles dans les d´emonstrations.

En premier lieu on suppose que le bruit dans le mod`ele (2.1) est de loi inconnue, plus pr´ecisement les variables al´eatoires (ξk)1≤k≤n sont suppos´ees ind´ependantes identiquement distribu´ees selon une densit´ p (par rapport a` la mesure de Lebesgue) appartenant a` la classe fonctionnelle Pσ∗

Les Th´eor`emes  2.2.1 et  2.2.2 impliquent que la suite ϕn est une vitesse de convergence optimale (minimax) pour la classe de H¨older stable de r´egularit´ β, i.e. l’estimateur Sn est optimal en vitesse de convergence sur cette classe.

En deuxi`eme lieu on ´etudie l’efficacit´ de l’estimateur Sn.

Dans le cas o`u S appartient a` la classe de H¨older H(β)(z0, K, ε) le probl`eme de l’estima-tion asymptotiquement efficace reste ouvert. En cons´equence on travaille avec un risque minimax pris sur une classe plus large, appel´ee classe H¨old´erienne faible. Pour l’estimateur Sn, de la mˆeme mani`ere que dans Galtchouk et Pergamenshchikov [2006a] nous utilisons la famille des classes H¨old´eriennes faibles locales stables en un point z0. Ainsi pour tout δ > 0

Notre probl`eme est maintenant le suivant. Supposons qu’on observe des donn´ees a` partir du mod`ele : yk = S(xk)yk−1 + ξk ,  1 ≤ k ≤ n , (3.1) o`u xk = k/n, (ξk)k∈{1,…,n} sont des variables al´eatoires ind´ependantes et identiquement distribu´ees selon la loi gaussienne standard. On s’int´eresse a` l’estimation de la fonction autor´egressive S en un point fixe z0 ∈]0; 1[.

On suppose que la fonction S appartient a` une classe H¨old´erienne forte mais sa r´egularit´ β est inconnue. L’objectif est de trouver une vitesse de convergence adaptative et pour celle-ci de construire un estimateur s´equentiel adaptatif . Parce que β est inconnu, cette vitesse diff`erera ici de la vitesse de convergence obtenue dans le cas contraire.

De nombreux travaux ont et´ consacr´es `a la recherche de la vitesse optimale de conver-gence ou d’un estimateur asymptotiquement efficace lorsqu’un ou plusieurs param`etres du mod`ele sont suppos´es inconnus, en particulier la r´egularit´ de la fonction `a estimer. Ce cas, dit adaptatif, a engendr´ des premiers r´esultats sur la vitesse de convergence mi-nimax adaptative comme dans Efro˘ımovich et Pinsker [1984] pour un mod`ele de bruit blanc gaussien, H¨ardle et Marron [1985] pour un mod`ele de r´egression et Efro˘ımovich [1985] pour l’estimation d’une densit´.

Belitser [2000a] consid`ere le mod`ele (3.1) avec des conditions lipschitziennes, pro-pose un estimateur r´ecursif et ´etudie le probl`eme d’estimation non adaptative. En utili-sant le risque quadratique, l’auteur ´etablit la vitessse de convergence. Dans Galtchouk et Pergamenshchikov [2005b] les auteurs d´ecrivent une m´ethode s´equentielle pour le probl`eme d’estimation non param´etrique du processus de la d´erive du coefficient de dif-fusion. Dans Lepski˘ı [1990] l’auteur consid`ere le probl`eme adaptatif, dans un mod`ele de buit blanc gaussien, de l’estimation d’un signal appartenant a` une classe H¨old´erienne donn´ee Σ(m + α, L), o`u m + α et L sont des constantes connues. Fourdrinier, Konev et Pergamenchtchikov [2009] proposent une proc´edure s´equentielle tronqu´ee qui permet de consid´erer le probl`eme de l’estimation du param`etre du processus autor´egressif du premier ordre avec bruit d´ependant.

Enfin Galtchouk et Pergamenshchikov [2001] obtiennent la vitesse de convergence minimax adaptative ainsi qu’un estimateur adaptatif en vitesse de convergence de la d´erive d’une diffusion, appartenant `a une classe H¨old´erienne.

Dans ce chapitre on consid`ere le cas adaptatif avec β inconnu. Notre construction est bas´ee sur celle que l’on peut trouver dans Lepski˘ı [1990] et Galtchouk et Perga-menshchikov [2001] pour l’estimation s´equentielle adaptative du coefficient de d´erive d’un processus de diffusion. Comme dans le chapitre pr´ec´edent, pour d´efinir le risque d’un esti-mateur, on suit la m´ethode propos´ee par Galtchouk et Pergamenshchikov [2006a] dans le cas d’un mod`ele de r´egression homosc´edastique et non adaptatif. L’approche s´equentielle c’est celle qu’on trouve dans Borisov et Konev [1977] mais dans le cas param´etrique. La proc´edure de Lepski˘ı s’applique a` des estimateurs pour lesquels la queue de la distribution a le mˆeme comportement asymptotique qu’une variable al´eatoire gaussienne, usuellement cette proc´edure s’utilise dans le cas i.i.d gaussien. Pour notre probl`eme l’estimateur a` noyau non s´equentiel ne poss`ede pas cette propri´et´e, par contre l’approche s´equentielle aboutit dans le cadre du mod`ele (3.1) en r´ealisant la proc´edure adaptative de Lepski˘ı.

On s’int´eresse `a l’estimation de la fonction autor´egressive S en un point fix´e z0 ∈]0; 1[. Nous supposons que la fonction S appartient `a une classe H¨old´erienne mais la r´egularit´ β reste inconnue.