Sommes de variables aléatoires

Une variable aléatoire X sur un univers Omega est une fonction qui associée a chaque issue un nombre réel. La loi de probabilité de X est la donnee de toutes les valeurs prises par X et de leurs probabilités respectives. On la presente souvent sous forme de tableau. L'esperance de X est définie par E(X) = somme de xi * P(X = xi) pour toutes les valeurs xi prises par X. C'est la moyenne ponderee des valeurs par leurs probabilités, et elle represente la valeur moyenne de X sur un grand nombre de répétitions. La variance de X mesure la dispersion des valeurs autour de l'esperance. Elle est définie par V(X) = E[(X - E(X))^2] = somme de (xi - E(X))^2 * P(X = xi). La formule de Koenig-Huygens fournit une méthode de calcul equivalente et souvent plus pratique : V(X) = E(X^2) - [E(X)]^2. Pour l'utiliser, on calcule d'abord E(X^2) = somme de xi^2 * P(X = xi), puis on soustrait le carré de E(X). L'ecart-type sigma(X) =$sqrt{V(X)}$ est exprime dans la meme unite que X et donne une mesure directe de la dispersion. Plus la variance est grande, plus les valeurs de X sont dispersees autour de la moyenne. Rappelons que pour une variable de Bernoulli X de parametre p : E(X) = p, V(X) = pq, sigma(X) =$sqrt{pq}$. Ces rappels sont essentiels car toutes les propriétés de ce chapitre s'appuient sur ces définitions.

La propriété fondamentale de l'esperance est sa linearite : pour toutes variables aleatoires X et Y définies sur le meme univers, et pour tous réels a et b, on a E(aX + bY) = aE(X) + bE(Y). Cette propriété est vraie sans aucune condition sur X et Y : elle s'applique que les variables soient indépendantes ou non, correlees ou non. En particulier, E(X + Y) = E(X) + E(Y) (toujours) et E(aX + b) = aE(X) + b. Cette linearite se generalise a n variables : E(X1 + X2 + ... + Xn) = E(X1) + E(X2) + ... + E(Xn). Pour la variance, la situation est differente. En général, V(X + Y) n'est pas égal a V(X) + V(Y). La formule V(X + Y) = V(X) + V(Y) n'est valable que si X et Y sont indépendantes. C'est une condition nécessaire a vérifier systematiquement. Si X et Y sont indépendantes, alors V(aX + bY) = a^2 * V(X) + b^2 * V(Y). Attention : les coefficients a et b sont eleves au carré dans la formule de la variance. De plus, V(aX + b) = a^2 * V(X) (la constante b disparait car elle ne change pas la dispersion). L'ecart-type de aX + b est |a| * sigma(X). Ces propriétés permettent de calculer rapidement l'esperance et la variance de combinaisons linéaires de variables aleatoires indépendantes sans connaitre la loi complete de la somme.

Deux variables aleatoires X et Y sont dites indépendantes si, pour toutes valeurs xi et yj, les événements (X = xi) et (Y = yj) sont independants, c'est-a-dire P(X = xi et $Y = yj) = P(X = xi) * P(Y = yj)$. Cette condition doit etre verifiee pour tous les couples (xi, yj) de valeurs possibles. L'indépendance de variables aleatoires generalise l'indépendance d'événements. En pratique, on ne vérifié pas toujours cette condition formellement : on l'identifié a partir du contexte de l'experience. Par exemple, si deux des sont lances separement, les variables representant les numeros obtenus sont indépendantes. Si on tire sans remise deux cartes d'un jeu, les variables ne sont pas indépendantes. L'indépendance a des consequences fondamentales : si X et Y sont indépendantes, alors E(XY) = E(X) * E(Y) (l'esperance du produit est le produit des esperances), et V(X + Y) = V(X) + V(Y) (additivite de la variance). La reciproque est fausse en général : E(XY) = E(X)*E(Y) n'implique pas l'indépendance. On generalise a n variables : X1, X2, ..., Xn sont mutuellement indépendantes si pour tout sous-ensemble d'indices, les événements correspondants sont independants. Dans un schema de Bernoulli, les n variables de Bernoulli X1, ..., Xn sont mutuellement indépendantes par hypothèse. C'est ce qui permet d'écrire V(X1 + ... + Xn) = V(X1) + ... + V(Xn).

Considerons n variables aleatoires X1, X2, ..., Xn indépendantes et de meme loi, ayant toutes la meme esperance $mu = E(Xi) et la meme variance sigma^2 = V(Xi)$. On définit la moyenne de l'echantillon par $Mn = (X1 + X2 + $... + Xn) / n. C'est la variable aléatoire qui represente la moyenne arithmetique des n observations. En utilisant les propriétés de linearite de l'esperance, on obtient : E(Mn) = E((X1 + ... + Xn)/n) = (E(X1) + ... + E(Xn))/n = n*mu/n = mu. Ainsi, l'esperance de la moyenne d'echantillon est égale a l'esperance commune mu, quelle que soit la taille n de l'echantillon. Pour la variance, comme les Xi sont indépendantes : V(Mn) = V((X1 + ... + Xn)/n) = (1/n^2) * [V(X1) + ... + V(Xn)] = (1/n^2) * n*sigma^2 = sigma^2/n. L'ecart-type de Mn est sigma(Mn) = sigma/$sqrt{n}$. Le résultat fondamental est que V(Mn) = sigma^2/n tend vers 0 quand n tend vers l'infini. Cela signifie que la moyenne d'echantillon se concentre de plus en plus autour de mu quand la taille de l'echantillon augmente. C'est le point de depart de la loi des grands nombres, qui sera etudiee en detail dans le chapitre suivant. En pratique, cela explique pourquoi un sondage sur 1000 personnes est plus fiable qu'un sondage sur 100 personnes : la dispersion de la moyenne est divisee par $sqrt{10}$ environ 3.16.