Loi de Bernoulli

La loi de Bernoulli décrit le résultat d'un essai unique à deux issues : succès (codé 1) ou échec (codé 0). C'est la variable indicatrice la plus simple et la brique de base des lois binomiales et des modèles de comptage.

Caractéristiques

CaractéristiqueFormuleDescription
Notation

Parfois notée ou

Paramètre

Probabilité de succès ; on pose souvent

SupportDeux valeurs entières exclusives
Fonction de massePMF sur le support binaire
Fonction de répartition

si ,
si ,


si

Saut de hauteur en

Fonction génératrice des momentsDérivées en 0 donnent les moments
Fonction caractéristiqueTransformée de Fourier de la loi
EspéranceProbabilité moyenne de succès sur un essai
Variance

Maximale en ()

Médiane

si , si

Non unique si

Mode

si , si

Bimodal si

Asymétrie

Positive si , négative si

Kurtosis (excès)

Queues plus légères que la normale pour

Entropie de Shannon

Convention ; maximale en

Information de Fisher

Pour une observation ; croît lorsque s'éloigne de

Divergence de Kullback-Leibler

Entre deux lois de Bernoulli de paramètres et

Propriétés et Théorèmes

Propriété / ThéorèmeFormuleDescription
Variable indicatrice

Toute Bernoulli est l'indicatrice d'un événement de probabilité

ComplémentÉchec et succès sont symétriques par inversion
Somme i.i.d.

essais indépendants → loi binomiale

Moments entiers

pour

Car sur

Variance maximale

Atteint en ; utile pour borner l'incertitude d'un essai

Produit nul

et ne sont jamais simultanément non nuls

Fonction génératrice des sommes

Pour variables i.i.d. ; identifie la binomiale

Cas dégénérés

,

Lois atomiques aux extrémités du paramètre
Processus de Bernoulli

i.i.d.

Séquence d'essais indépendants ; la somme partielle suit une binomiale

Applications

Modélisation de défaut

Un crédit en défaut (oui/non) sur un horizon donné est souvent modélisé par une Bernoulli de paramètre PD (probability of default).

Classification binaire

Résultat d'un classifieur (positif/négatif), conversion marketing, signal binaire : la variable cible ou l'erreur de prédiction sont naturellement Bernoulli.

Essais indépendants

Tirage à pile ou face, bit transmis sur un canal bruité, trade gagnant/perdant sous hypothèse i.i.d. : chaque répétition est une Bernoulli.

Brique des lois de comptage

La somme de Bernoulli i.i.d. produit la binomiale ; en régime rare ( grand, petit), la loi de Poisson apparaît en limite.

Inférence Statistique

ConceptFormuleDescription
Échantillon

essais observés ; l'inférence porte sur la proportion

Estimateur du MLEProportion empirique de succès ; sans biais, convergent, efficace
Variance de l'estimateur

Décroît en ; maximale pour

Intervalle de Wald

Approximation normale ; acceptable si et sont suffisants

Intervalle de Clopper-Pearson

Intervalle exact pour la proportion, avec

Test de proportion (Z)

Sous et grand

Prior conjugué (bayésien)La loi bêta est conjuguée de la Bernoulli

Remarques importantes

  • Un seul essai () ne permet pas d'estimer avec une marge d'erreur : l'inférence concerne en pratique un échantillon de Bernoulli i.i.d.

  • L'intervalle de Wald peut produire des bornes hors de pour proche de 0 ou 1 et modéré.

  • Pour de petits échantillons, préférer Clopper-Pearson ou l'intervalle de Wilson.
  • La règle empirique et guide l'usage de l'approximation normale.

Méthodes Computationnelles

MéthodeDescriptionApplications
Génération pseudo-aléatoire

, retourner 1 si

Simulations de défaut, Monte Carlo, bootstrap
NumPy

np.random.binomial(1, p) ou np.random.default_rng().binomial(1, p)

Tirages vectorisés sur un portefeuille
SciPy

scipy.stats.bernoulli(p) — PMF, CDF, rvs, moments

Calculs exacts et simulation
Estimation et IC

proportion_confint (statsmodels) — Wilson, Clopper-Pearson

Intervalles de confiance robustes sur des proportions
Chargement…

Références

• Wikipedia, Bernoulli distribution : https://en.wikipedia.org/wiki/Bernoulli_distribution

• Cas particulier de la famille exponentielle ; voir aussi Fondamentaux et Distributions discrètes.