Aller au contenu
Télécharger l'application

Accueil › ECG › Maths appliquées

ECG2 · Maths appliquées · semaine 20

Graphes probabilistes et chaînes de Markov

Graphe probabiliste, matrice de transition et chaîne de Markov associée avec ses états. Relation de récurrence matricielle entre états successifs et calcul de la loi à l'étape n. État stable et comportement limite étudiés sur des exemples à deux états, tous les résultats sont admis.

Sommaire

Le cours

Résumé en cinq points

  1. Une chaîne de Markov est décrite par une matrice de transition stochastique, dont les lignes somment à 11.
  2. La loi à l'étape nn, écrite en ligne, vérifie Vn=Vn−1MV_n=V_{n-1}M et donc Vn=V0MnV_n=V_0M^n.
  3. Le calcul de MnM^n passe par la diagonalisation, ou en dimension 22 par une suite arithmético-géométrique.
  4. Un état stable est une loi VV vérifiant V=VMV=VM ; sa transposée est un vecteur propre de la transposée de MM pour la valeur propre 11.
  5. La valeur propre 11 existe toujours, mais la convergence de la suite des lois vers l'état stable dépend des autres valeurs propres.
Pourquoi ce chapitre

Une chaîne de Markov modélise un système qui passe d'un état à un autre au fil du temps, la prochaine étape ne dépendant que de l'état présent.

C'est le modèle de :

  • la fidélité à une marque ;
  • le passage d'un client d'une classe tarifaire à une autre ;
  • un système de bonus-malus en assurance ;
  • le classement des pages d'un moteur de recherche.

Mathématiquement, tout se ramène à une multiplication matricielle répétée. Le chapitre est donc l'application probabiliste directe de la réduction des matrices.

On y :

  • calcule des puissances de matrices ;
  • cherche un vecteur propre associé à la valeur propre 11 ;
  • interprète le résultat en termes de répartition à long terme.

Classiques et HP

Méthodes et approfondissements du chapitre · le statut est précisé pour ECG2.

Classiques et HP réservés

Prolongements et démonstrations de Maths appliquées.

Essayer 7 jours gratuitement Sans engagement · cours, exercices et fiches complets

Fin de l'aperçu gratuit

Encore 14 parties de cours et 9 corrigés.

Essayer 7 jours gratuitement Sans engagement · cours, exercices et fiches complets

Méthodes et exercices

Exercices classiques corrigés

Les exercices se suivent : garde leur ordre. Difficulté et durée indicatives.

Exercice 1. Météo et probabilité inversée ★

Application du cours · 15 min · Niveau khôlle · Modélisation par chaîne

Chaque jour est beau (état 11) ou pluvieux (état 22).

Après un beau jour, le lendemain est beau avec probabilité 710\frac{7}{10}.

Après la pluie, il est beau avec probabilité 25\frac{2}{5}.

Le jour 00 est beau.

  • Calculer P(X2=1)P(X_2 = 1),
  • puis P(X1=1 sachant X2=1)P(X_1 = 1 \text{ sachant } X_2 = 1),
  • puis l'état stable.
Voir l'indice

Technique probabilités totales et formule de Bayes.

Voir le corrigé offert
  1. MM a pour lignes (7/10,3/10)(7/10, 3/10) et (2/5,3/5)(2/5, 3/5).
  2. V1=(7/10,3/10)V_1 = (7/10, 3/10), donc P(X2=1)=49/100+(3/10)(2/5)=61/100.P(X_2 = 1) = 49/100 + (3/10)(2/5) = 61/100.
  3. Comme X0=1X_0 = 1, P(X1=1 et X2=1)=(7/10)2=49/100.P(X_1 = 1 \text{ et } X_2 = 1) = (7/10)^2 = 49/100.
  4. Donc P(X1=1 sachant X2=1)=49/61P(X_1 = 1 \text{ sachant } X_2 = 1) = 49/61.
  5. La colonne 11 donne (3/10)x=(2/5)y(3/10)x = (2/5)y, soit 3x=4y3x = 4y. L'état stable est (4/7,3/7)(4/7, 3/7).

piège : Répondre 7/107/10 à la question 4, qui est la probabilité dans l'autre sens.

Exercice 2. Le cycle à trois états ★★

Classiques de khôlle et concours · 20 min · Niveau khôlle · Convergence de la loi

MM a pour lignes (0,1,0)(0, 1, 0), (0,0,1)(0, 0, 1) et (1,0,0)(1, 0, 0), et V0=(1,0,0)V_0 = (1, 0, 0).

Calculer VnV_n, les états stables, étudier la convergence.

MM est-elle diagonalisable ?

Voir le début du corrigé
  1. V1=(0,1,0)V_1 = (0, 1, 0), V2=(0,0,1)V_2 = (0, 0, 1), V3=V0V_3 = V_0. …

La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.

Exercice 3. Chaîne générale à deux états ★★

Classiques de khôlle et concours · 25 min · Niveau khôlle · Chaînes à deux états

MM a pour lignes (1−a,a)(1 - a, a) et (b,1−b)(b, 1 - b), avec a,ba, b dans [0,1][0, 1] et a+b>0a + b > 0.

Exprimer pn=P(Xn=1)p_n = P(X_n = 1) et discuter la convergence.

Voir le début du corrigé
  1. pn+1=(1−a)pn+b(1−pn)=λpn+bp_{n+1} = (1 - a)p_n + b(1 - p_n) = \lambda p_n + b, avec λ=1−a−b\lambda = 1 - a - b.

La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.

Exercice 4. Mⁿ par diagonalisation ★★

Classiques de khôlle et concours · 25 min · Niveau écrit Ecricome · Puissances de matrice

Même matrice, avec a+b>0a + b > 0.

Diagonaliser MM et calculer MnM^n.

Voir le début du corrigé
  1. Soit λ=1−a−b\lambda = 1 - a - b, différent de 11. M−λIM - \lambda I a deux lignes égales à (b,a)(b, a), elle n'est pas inversible, donc λ\lambda est valeur propre. …

La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.

Exercice 5. Trois états et loi limite ★★

Classiques de khôlle et concours · 25 min · Niveau écrit Ecricome · Convergence de la loi

MM a pour lignes (12,12,0)(\frac{1}{2}, \frac{1}{2}, 0), (14,12,14)(\frac{1}{4}, \frac{1}{2}, \frac{1}{4}) et (0,12,12)(0, \frac{1}{2}, \frac{1}{2}).

Trouver les valeurs propres, montrer que (Vn)(V_n) converge et trouver sa limite.

Voir le début du corrigé
  1. MU=UMU = U pour U=(1,1,1)U = (1, 1, 1), donc 11 est valeur propre.

La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.

Exercice 6. Puissances par le binôme ★★

Classiques de khôlle et concours · 25 min · Niveau écrit EDHEC · Puissances de matrice

Soit tt dans ]0,12]]0, \frac{1}{2}] et JJ la matrice d'ordre 33 dont tous les coefficients valent 11.

MM a pour diagonale 1−2t1 - 2t et vaut tt hors diagonale.

Calculer MnM^n et la limite de VnV_n.

Voir le début du corrigé
  1. M = (1 − 3t)I + tJ, et J² = 3J, donc Jᵏ = 3ᵏ⁻¹J pour k ≥ 1.

La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.

Exercice 7. Absorption ★★

Classiques de khôlle et concours · 30 min · Niveau écrit EDHEC · Absorption et temps d'atteinte

MM a pour lignes (12,12,0)(\frac{1}{2}, \frac{1}{2}, 0), (0,12,12)(0, \frac{1}{2}, \frac{1}{2}) et (0,0,1)(0, 0, 1), et X0=1X_0 = 1.

Calculer la loi de XnX_n.

Montrer que MM n'est pas diagonalisable.

Donner la loi du premier instant TT où la chaîne est en 33.

Voir le début du corrigé
  1. P(Xn+1=1)=P(Xn=1)/2P(X_{n+1} = 1) = P(X_n = 1)/2, donc P(Xn=1)=(1/2)nP(X_n = 1) = (1/2)^n.

La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.

Exercice 8. Bonus-malus à trois niveaux ★★

Classiques de khôlle et concours · 20 min · Niveau écrit emlyon · Modélisation par chaîne

Un assuré est au niveau 11 (bonus), 22 ou 33 (malus).

Chaque année, il a un sinistre avec probabilité pp dans ]0,1[]0, 1[, et q=1−pq = 1 - p.

Sans sinistre, il descend d'un niveau, ou reste au niveau 11.

Avec sinistre, il monte d'un niveau, ou reste au niveau 33.

Trouver l'état stable.

Pour p=14p = \frac{1}{4} et des cotisations de 8080, 100100 et 130130 euros, donner la cotisation moyenne à long terme.

Voir le début du corrigé
  1. Les lignes de MM sont (q,p,0)(q, p, 0), (q,0,p)(q, 0, p) et (0,q,p)(0, q, p).

La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.

Exercice 9. Temps moyen passé dans un état ★★

Classiques de khôlle et concours · 25 min · Niveau écrit ESSEC ou HEC · Chaînes à deux états

Chaîne de l'exercice 3, avec a+b>0a + b > 0.

NnN_n est le nombre d'indices kk dans {1,…,n}\{1, \dots, n\} tels que Xk=1X_k = 1.

Calculer E(Nn)E(N_n) et la limite de E(Nn)n\frac{E(N_n)}{n}, y compris pour a=b=1a = b = 1.

Voir le début du corrigé
  1. NnN_n est la somme des indicatrices de [Xk=1][X_k = 1], donc E(Nn)=ΣpkE(N_n) = \Sigma p_k pour kk de 11 à nn.

La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.

Exercice classique. Objectif de capital et frais de participation ★★★

Classique du chapitre

Un joueur possède initialement 88 euros. À chaque partie, il gagne ou perd 22 euros avec probabilité 1/21/2, indépendamment des parties précédentes. Il s’arrête dès que son capital atteint 00 ou 2020 euros. On note XnX_n son capital en unités de 22 euros après nn parties, en le maintenant constant après l’arrêt, et TT le nombre de parties jouées.

  1. Donner les valeurs de NN et du capital initial ii dans ce modèle. En considérant des blocs de 1010 parties, prouver que P(T>10k)≤(1−2−10)k\mathbb P(T>10k)\leq(1-2^{-10})^k pour tout entier k≥0k\geq0. En déduire l’absorption presque sûre et l’intégrabilité de TT.

  2. Établir et résoudre la récurrence donnant la probabilité d’atteindre 2020 euros à partir de chaque capital possible. Calculer cette probabilité pour le joueur.

  3. Établir et résoudre la récurrence donnant le nombre moyen de parties avant l’arrêt. Calculer E(T)\mathbb E(T).

  4. Chaque partie coûte en outre 0,100{,}10 euro, prélevé sur un compte extérieur sans effet sur le capital de jeu ni sur la règle d’arrêt. Déterminer les gains hors frais possibles et leurs probabilités, puis l’espérance du gain net, frais compris.

Corrigé détaillé dans Sup et Spé+ : essai gratuit 7 jours.

Fiche de cours rédigée à partir du programme officiel de la voie EC, mathématiques appliquées de seconde année, enseignement du quatrième semestre, partie II « Probabilités », paragraphe « Graphes probabilistes, chaînes de Markov ». Le programme précise que tous les résultats de cette section sont admis. L'illustration en Python fait l'objet d'un chapitre distinct.