Loi de Bernoulli
La loi de Bernoulli décrit le résultat d'un essai unique à deux issues : succès (codé 1) ou échec (codé 0). C'est la variable indicatrice la plus simple et la brique de base des lois binomiales et des modèles de comptage.
Caractéristiques
| Caractéristique | Formule | Description |
|---|---|---|
| Notation | Parfois notée ou | |
| Paramètre | Probabilité de succès ; on pose souvent | |
| Support | Deux valeurs entières exclusives | |
| Fonction de masse | PMF sur le support binaire | |
| Fonction de répartition | si , si | Saut de hauteur en |
| Fonction génératrice des moments | Dérivées en 0 donnent les moments | |
| Fonction caractéristique | Transformée de Fourier de la loi | |
| Espérance | Probabilité moyenne de succès sur un essai | |
| Variance | Maximale en () | |
| Médiane | si , si | Non unique si |
| Mode | si , si | Bimodal si |
| Asymétrie | Positive si , négative si | |
| Kurtosis (excès) | Queues plus légères que la normale pour | |
| Entropie de Shannon | Convention ; maximale en | |
| Information de Fisher | Pour une observation ; croît lorsque s'éloigne de | |
| Divergence de Kullback-Leibler | Entre deux lois de Bernoulli de paramètres et |
Propriétés et Théorèmes
| Propriété / Théorème | Formule | Description |
|---|---|---|
| Variable indicatrice | Toute Bernoulli est l'indicatrice d'un événement de probabilité | |
| Complément | Échec et succès sont symétriques par inversion | |
| Somme i.i.d. | essais indépendants → loi binomiale | |
| Moments entiers | pour | Car sur |
| Variance maximale | Atteint en ; utile pour borner l'incertitude d'un essai | |
| Produit nul | et ne sont jamais simultanément non nuls | |
| Fonction génératrice des sommes | Pour variables i.i.d. ; identifie la binomiale | |
| Cas dégénérés | , | Lois atomiques aux extrémités du paramètre |
| Processus de Bernoulli | i.i.d. | Séquence d'essais indépendants ; la somme partielle suit une binomiale |
Applications
Modélisation de défaut
Un crédit en défaut (oui/non) sur un horizon donné est souvent modélisé par une Bernoulli de paramètre PD (probability of default).
Classification binaire
Résultat d'un classifieur (positif/négatif), conversion marketing, signal binaire : la variable cible ou l'erreur de prédiction sont naturellement Bernoulli.
Essais indépendants
Tirage à pile ou face, bit transmis sur un canal bruité, trade gagnant/perdant sous hypothèse i.i.d. : chaque répétition est une Bernoulli.
Brique des lois de comptage
La somme de Bernoulli i.i.d. produit la binomiale ; en régime rare ( grand, petit), la loi de Poisson apparaît en limite.
Inférence Statistique
| Concept | Formule | Description |
|---|---|---|
| Échantillon | essais observés ; l'inférence porte sur la proportion | |
| Estimateur du MLE | Proportion empirique de succès ; sans biais, convergent, efficace | |
| Variance de l'estimateur | Décroît en ; maximale pour | |
| Intervalle de Wald | Approximation normale ; acceptable si et sont suffisants | |
| Intervalle de Clopper-Pearson | Intervalle exact pour la proportion, avec | |
| Test de proportion (Z) | Sous et grand | |
| Prior conjugué (bayésien) | La loi bêta est conjuguée de la Bernoulli |
Remarques importantes
Un seul essai () ne permet pas d'estimer avec une marge d'erreur : l'inférence concerne en pratique un échantillon de Bernoulli i.i.d.
L'intervalle de Wald peut produire des bornes hors de pour proche de 0 ou 1 et modéré.
- Pour de petits échantillons, préférer Clopper-Pearson ou l'intervalle de Wilson.
La règle empirique et guide l'usage de l'approximation normale.
Méthodes Computationnelles
| Méthode | Description | Applications |
|---|---|---|
| Génération pseudo-aléatoire | , retourner 1 si | Simulations de défaut, Monte Carlo, bootstrap |
| NumPy |
| Tirages vectorisés sur un portefeuille |
| SciPy |
| Calculs exacts et simulation |
| Estimation et IC |
| Intervalles de confiance robustes sur des proportions |
Chargement…
Références
• Wikipedia, Bernoulli distribution : https://en.wikipedia.org/wiki/Bernoulli_distribution
• Cas particulier de la famille exponentielle ; voir aussi Fondamentaux et Distributions discrètes.