Aller au contenu
Télécharger l'application

Accueil › ECG › Maths approfondies

ECG2 · Maths approfondies · semaine 26

Estimation ponctuelle

Vocabulaire de l'estimation, n-échantillon de variables indépendantes de même loi, estimateur et estimation ponctuelle. Estimateur sans biais, suite d'estimateurs, estimateur convergent et condition suffisante de convergence. La notion de risque quadratique n'est pas au programme.

Sommaire

Le cours

Résumé en cinq points

  1. Un estimateur de g(θ)g(\theta) est une variable aléatoire Tn=φ(X1,…,Xn)T_n=\varphi(X_1,\ldots,X_n), où φ\varphi ne dépend jamais de θ\theta. Sa réalisation sur les données observées est l’estimation.
  2. TnT_n est sans biais quand Eθ(Tn)=g(θ)\E_\theta(T_n)=g(\theta) pour tout θ\theta. La moyenne empirique est sans biais pour l’espérance. La variance empirique a pour biais −σ2/n-\sigma^2/n et se corrige par le facteur n/(n−1)n/(n-1), pour n⩾2n\geqslant2.
  3. Une suite d’estimateurs est convergente quand elle converge en probabilité vers g(θ)g(\theta) pour tout θ\theta.
  4. Condition suffisante : si Eθ(Tn)\E_\theta(T_n) tend vers g(θ)g(\theta) et si Vθ(Tn)\V_\theta(T_n) tend vers 00, pour tout θ\theta, alors la suite est convergente. La démonstration passe par l’inégalité de Markov appliquée au carré de l’écart.
  5. La composition par une fonction continue conserve la convergence, mais pas l’absence de biais. Entre deux estimateurs sans biais, on retient celui de plus petite variance.
Pourquoi ce chapitre

Jusqu’ici, les probabilités partaient d’une loi connue pour calculer des probabilités. La statistique inférentielle fait le chemin inverse. On observe des données et on cherche à remonter à la loi qui les a produites, ou au moins à l’un de ses paramètres.

ExempleSondage

C’est la démarche de tout sondage, de toute étude de marché, de tout contrôle qualité. On ne connaît pas la proportion pp de clients satisfaits, on interroge nn personnes et on propose une valeur.

Le chapitre formalise cette opération et donne les critères permettant de dire qu’une méthode d’estimation est bonne.

  • L’absence de biais dit que l’estimateur vise juste en moyenne.
  • La convergence dit qu’il devient précis quand la taille de l’échantillon augmente.

Deux qualités sont au programme : l’absence de biais et la convergence.

AttentionLimite du programme

La notion de risque quadratique n’est pas au programme : on n’emploiera donc pas ce vocabulaire.

Fin de l'aperçu gratuit

Encore 11 parties de cours et 8 corrigés.

Essayer 7 jours gratuitement Sans engagement · cours, exercices et fiches complets

Méthodes et exercices

Exercices classiques corrigés

Rangés par thème, du plus simple au plus exigeant. Difficulté et durée indicatives.

Estimation d'une fonction du paramètre 1

Exercice 1. Estimer p(1 − p) ★★

Classiques de khôlle et concours · 25 min · Niveau khôlle

Soit (X1,…,Xn)(X_1, \dots, X_n) un nn-échantillon de loi de Bernoulli de paramètre pp inconnu dans le segment de 00 à 11, avec n≥2n \geq 2.

On pose Tn=Xˉn(1−Xˉn).T_n = \bar X_n (1 - \bar X_n). Étudier le biais et la convergence de TnT_n comme estimateur de p(1−p)p(1 - p), puis construire un estimateur sans biais convergent.

Voir l'indice

Technique E(Y2)=V(Y)+E(Y)2E(Y^2) = V(Y) + E(Y)^2 puis composition.

Voir le corrigé offert
  1. Tn=Xˉn−Xˉn2T_n = \bar{X}_n - \bar{X}_n^2 ne dépend que des données, c'est un estimateur.
  2. E(Xˉn)=pE(\bar{X}_n) = p et E(Xˉn2)=p(1−p)/n+p2E(\bar{X}_n^2) = p(1 - p)/n + p^2.
  3. E(Tn)=p−p2−p(1−p)/n=(1−1/n)p(1−p)E(T_n) = p - p^2 - p(1 - p)/n = (1 - 1/n) p(1 - p). Le biais vaut −p(1−p)/n-p(1 - p)/n. Il est non nul pour pp dans ]0,1[]0, 1[ et tend vers 00.
  4. Un=(n/(n−1))TnU_n = (n/(n - 1)) T_n est sans biais.
  5. Xˉn\bar{X}_n converge vers pp par la loi faible, et x↦x(1−x)x \mapsto x(1 - x) est continue sur RR, donc (Tn)(T_n) est convergente.
  6. On a 0≤Tn≤1/40 \leq T_n \leq 1/4, donc ∣Un−Tn∣=Tn/(n−1)≤1/(4(n−1))|U_n - T_n| = T_n/(n - 1) \leq 1/(4(n - 1)). Dès que ce majorant est inférieur à ε/2\varepsilon/2, l'événement [∣Un−p(1−p)∣≥ε][|U_n - p(1 - p)| \geq \varepsilon] est inclus dans [∣Tn−p(1−p)∣≥ε/2][|T_n - p(1 - p)| \geq \varepsilon/2]. Donc (Un)(U_n) est convergente.

piège : Penser que Xˉn\bar{X}_n étant sans biais pour pp, Xˉn(1−Xˉn)\bar{X}_n(1 - \bar{X}_n) l'est pour p(1−p)p(1 - p).

Combinaison optimale d'estimateurs 1

Exercice 2. Moyennes pondérées ★★

Classiques de khôlle et concours · 20 min · Niveau khôlle

XX admet une espérance mm et une variance σ2>0\sigma^2 > 0, et le modèle autorise des valeurs non nulles de mm.

Pour des réels a1,…,ana_1, \dots, a_n fixés, on pose T=∑aiXi.T = \sum a_i X_i. À quelle condition TT est-il sans biais pour mm ?

Lequel de ces estimateurs a la plus petite variance ?

X1X_1 est-il convergent ?

Voir le début du corrigé
  1. E(T)=m∑aiE(T) = m \sum a_i. Cette égalité vaut mm pour tout mm, en particulier pour un mm non nul, si et seulement si ∑ai=1\sum a_i = 1.

La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.

Estimateurs à partir du minimum 1

Exercice 3. Minimum de lois exponentielles ★★

Classiques de khôlle et concours · 20 min · Niveau khôlle

XX suit la loi exponentielle de paramètre λ>0\lambda > 0 et on pose Mn=min⁡(X1,…,Xn).M_n = \min(X_1, \dots, X_n). Déterminer la loi de MnM_n.

Montrer que nMnnM_n est sans biais pour 1λ\frac{1}{\lambda}.

Est-il convergent ?

Comparer avec Xˉn\bar X_n.

Voir le début du corrigé
  1. Pour x≥0x \geq 0, P(Mn>x)=ΠP(Xi>x)=e−nλxP(M_n > x) = \Pi P(X_i > x) = e^{-n\lambda x} par indépendance. …

La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.

Estimation d'une fonction du paramètre 2

Exercice 4. Estimer λ dans le modèle exponentiel ★★

Classiques de khôlle et concours · 30 min · Niveau écrit Ecricome

XX suit la loi exponentielle de paramètre λ>0\lambda > 0, avec n≥3n \geq 3.

On pose Sn=∑XiS_n = \sum X_i et on admet que λSn\lambda S_n suit la loi gamma de paramètre nn, de densité xn−1e−x(n−1)!\frac{x^{n-1} e^{-x}}{(n-1)!} sur ]0,+∞[]0, +\infty[.

Calculer le biais de 1Xˉn\frac{1}{\bar X_n}.

Construire un estimateur sans biais de λ\lambda et montrer qu'il est convergent.

Voir le début du corrigé
  1. Posons Y=λSnY = \lambda S_n. Alors E(1/Y)=∫xn−2e−x dx/(n−1)!E(1/Y) = \int x^{n-2} e^{-x}\, dx/(n - 1)! sur ]0,+∞[]0, +\infty[. …

La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.

Exercice 5. Estimer P(X = 0) dans le modèle de Poisson ★★

Classiques de khôlle et concours · 30 min · Niveau écrit EDHEC

XX suit la loi de Poisson de paramètre λ>0\lambda > 0.

On veut estimer e−λ=P(X=0).e^{-\lambda} = P(X = 0). On pose ZnZ_n la proportion des XiX_i nuls, et Vn=e−Xˉn.V_n = e^{-\bar X_n}. Étudier biais et convergence des deux estimateurs.

Voir le début du corrigé
  1. Les indicatrices des événements [Xi=0][X_i = 0] sont indépendantes, comme fonctions de variables indépendantes. …

La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.

Estimateurs à partir du minimum 1

Exercice 6. Uniforme sur le segment de θ à θ + 1 ★★

Classiques de khôlle et concours · 45 min · Niveau écrit HEC ou ESSEC

XX suit la loi uniforme sur le segment de θ\theta à θ+1\theta + 1, avec θ\theta réel inconnu.

On pose An=Xˉn−12A_n = \bar X_n - \frac{1}{2} et mn=min⁡(X1,…,Xn).m_n = \min(X_1, \dots, X_n). Construire à partir de mnm_n un estimateur sans biais BnB_n.

Comparer V(An)V(A_n) et V(Bn)V(B_n) selon nn.

Voir le début du corrigé
  1. E(X)=θ+1/2E(X) = \theta + 1/2 et V(X)=1/12V(X) = 1/12, donc AnA_n est sans biais, de variance 1/(12n)1/(12n).

La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.

Combinaison optimale d'estimateurs 1

Exercice 7. Fusionner deux échantillons ★

Application du cours · 15 min · Niveau khôlle

Soit TT et T′T' deux estimateurs sans biais de g(θ)g(\theta), indépendants, de variances v>0v > 0 et v′>0v' > 0. Trouver le réel λ\lambda qui minimise la variance de λT+(1−λ)T′\lambda T + (1 - \lambda)T'. Appliquer à deux échantillons indépendants de tailles nn et kk d'une même loi de variance σ2\sigma^2.

Voir le début du corrigé
  1. Par indépendance, la variance vaut h(λ)=λ2v+(1−λ)2v′h(\lambda) = \lambda^2v + (1 - \lambda)^2v'.

La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.

Estimation de la variance 1

Exercice 8. Variance d'une loi normale d'espérance connue ★

Application du cours · 20 min · Niveau écrit Ecricome

XX suit la loi normale d'espérance mm connue et de variance σ2\sigma^2 inconnue.

On pose Σn=1n∑(Xi−m)2.\Sigma_n = \frac{1}{n} \sum (X_i - m)^2. Montrer que Σn\Sigma_n est un estimateur sans biais et convergent de σ2\sigma^2.

Que devient la question si mm est inconnue ?

Voir le début du corrigé
  1. mm est connue, donc Σn\Sigma_n ne dépend que des données.

La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.

Estimation d'une fonction du paramètre 1

Exercice 9. Se ramener au modèle exponentiel ★★

Classiques de khôlle et concours · 20 min · Niveau écrit HEC

XX admet la densité θxθ−1\theta x^{\theta - 1} sur ]0,1]]0, 1], nulle ailleurs, avec θ>0\theta > 0 inconnu.

Montrer que Y=−ln⁡XY = -\ln X suit la loi exponentielle de paramètre θ\theta.

En déduire un estimateur sans biais convergent de 1/θ1/\theta, puis de θ\theta.

Voir le début du corrigé
  1. XX est à valeurs dans ]0,1]]0, 1], donc YY est positive.

La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.

Fiche de cours rédigée à partir du programme officiel de la voie EC, mathématiques approfondies de seconde année, enseignement du quatrième semestre, partie « Probabilités, convergences, estimation », paragraphe « Estimation », points a) « Estimation ponctuelle » et d) « Comparaison des estimateurs ». L’estimation par intervalle de confiance fait l’objet de la fiche suivante.