Le cours
Résumé en cinq points
- Une chaîne de Markov est décrite par une matrice de transition stochastique, dont les lignes somment à .
- La loi à l'étape , écrite en ligne, vérifie et donc .
- Le calcul de passe par la diagonalisation, ou en dimension par une suite arithmético-géométrique.
- Un état stable est une loi vérifiant ; sa transposée est un vecteur propre de la transposée de pour la valeur propre .
- La valeur propre existe toujours, mais la convergence de la suite des lois vers l'état stable dépend des autres valeurs propres.
Pourquoi ce chapitre
Une chaîne de Markov modélise un système qui passe d'un état à un autre au fil du temps, la prochaine étape ne dépendant que de l'état présent.
C'est le modèle de :
- la fidélité à une marque ;
- le passage d'un client d'une classe tarifaire à une autre ;
- un système de bonus-malus en assurance ;
- le classement des pages d'un moteur de recherche.
Mathématiquement, tout se ramène à une multiplication matricielle répétée. Le chapitre est donc l'application probabiliste directe de la réduction des matrices.
On y :
- calcule des puissances de matrices ;
- cherche un vecteur propre associé à la valeur propre ;
- interprète le résultat en termes de répartition à long terme.
Classiques et HP
Méthodes et approfondissements du chapitre · le statut est précisé pour ECG2.
Classiques et HP réservés
Prolongements et démonstrations de Maths appliquées.
Fin de l'aperçu gratuit
Encore 14 parties de cours et 9 corrigés.
Méthodes et exercices
Exercices classiques corrigés
Les exercices se suivent : garde leur ordre. Difficulté et durée indicatives.
Exercice 1. Météo et probabilité inversée ★
Application du cours · 15 min · Niveau khôlle · Modélisation par chaîne
Chaque jour est beau (état ) ou pluvieux (état ).
Après un beau jour, le lendemain est beau avec probabilité .
Après la pluie, il est beau avec probabilité .
Le jour est beau.
- Calculer ,
- puis ,
- puis l'état stable.
Voir l'indice
Technique probabilités totales et formule de Bayes.
Voir le corrigé offert
- a pour lignes et .
- , donc
- Comme ,
- Donc .
- La colonne donne , soit . L'état stable est .
piège : Répondre à la question 4, qui est la probabilité dans l'autre sens.
Exercice 2. Le cycle à trois états ★★
Classiques de khôlle et concours · 20 min · Niveau khôlle · Convergence de la loi
a pour lignes , et , et .
Calculer , les états stables, étudier la convergence.
est-elle diagonalisable ?
Exercice 3. Chaîne générale à deux états ★★
Classiques de khôlle et concours · 25 min · Niveau khôlle · Chaînes à deux états
a pour lignes et , avec dans et .
Exprimer et discuter la convergence.
Exercice 4. Mⁿ par diagonalisation ★★
Classiques de khôlle et concours · 25 min · Niveau écrit Ecricome · Puissances de matrice
Même matrice, avec .
Diagonaliser et calculer .
Voir le début du corrigé
- Soit , différent de . a deux lignes égales à , elle n'est pas inversible, donc est valeur propre. …
La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.
Exercice 5. Trois états et loi limite ★★
Classiques de khôlle et concours · 25 min · Niveau écrit Ecricome · Convergence de la loi
a pour lignes , et .
Trouver les valeurs propres, montrer que converge et trouver sa limite.
Voir le début du corrigé
- pour , donc est valeur propre.
La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.
Exercice 6. Puissances par le binôme ★★
Classiques de khôlle et concours · 25 min · Niveau écrit EDHEC · Puissances de matrice
Soit dans et la matrice d'ordre dont tous les coefficients valent .
a pour diagonale et vaut hors diagonale.
Calculer et la limite de .
Voir le début du corrigé
- M = (1 − 3t)I + tJ, et J² = 3J, donc Jᵏ = 3ᵏ⁻¹J pour k ≥ 1.
La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.
Exercice 7. Absorption ★★
Classiques de khôlle et concours · 30 min · Niveau écrit EDHEC · Absorption et temps d'atteinte
a pour lignes , et , et .
Calculer la loi de .
Montrer que n'est pas diagonalisable.
Donner la loi du premier instant où la chaîne est en .
Exercice 8. Bonus-malus à trois niveaux ★★
Classiques de khôlle et concours · 20 min · Niveau écrit emlyon · Modélisation par chaîne
Un assuré est au niveau (bonus), ou (malus).
Chaque année, il a un sinistre avec probabilité dans , et .
Sans sinistre, il descend d'un niveau, ou reste au niveau .
Avec sinistre, il monte d'un niveau, ou reste au niveau .
Trouver l'état stable.
Pour et des cotisations de , et euros, donner la cotisation moyenne à long terme.
Voir le début du corrigé
- Les lignes de sont , et .
La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.
Exercice 9. Temps moyen passé dans un état ★★
Classiques de khôlle et concours · 25 min · Niveau écrit ESSEC ou HEC · Chaînes à deux états
Chaîne de l'exercice 3, avec .
est le nombre d'indices dans tels que .
Calculer et la limite de , y compris pour .
Voir le début du corrigé
- est la somme des indicatrices de , donc pour de à .
La suite du corrigé dans Sup et Spé+ : essai gratuit 7 jours.
Exercice classique. Objectif de capital et frais de participation ★★★
Classique du chapitre
Un joueur possède initialement euros. À chaque partie, il gagne ou perd euros avec probabilité , indépendamment des parties précédentes. Il s’arrête dès que son capital atteint ou euros. On note son capital en unités de euros après parties, en le maintenant constant après l’arrêt, et le nombre de parties jouées.
-
Donner les valeurs de et du capital initial dans ce modèle. En considérant des blocs de parties, prouver que pour tout entier . En déduire l’absorption presque sûre et l’intégrabilité de .
-
Établir et résoudre la récurrence donnant la probabilité d’atteindre euros à partir de chaque capital possible. Calculer cette probabilité pour le joueur.
-
Établir et résoudre la récurrence donnant le nombre moyen de parties avant l’arrêt. Calculer .
-
Chaque partie coûte en outre euro, prélevé sur un compte extérieur sans effet sur le capital de jeu ni sur la règle d’arrêt. Déterminer les gains hors frais possibles et leurs probabilités, puis l’espérance du gain net, frais compris.
Corrigé détaillé dans Sup et Spé+ : essai gratuit 7 jours.
Fiche de cours rédigée à partir du programme officiel de la voie EC, mathématiques appliquées de seconde année, enseignement du quatrième semestre, partie II « Probabilités », paragraphe « Graphes probabilistes, chaînes de Markov ». Le programme précise que tous les résultats de cette section sont admis. L'illustration en Python fait l'objet d'un chapitre distinct.