第四章 大數定律和中心極限定理(1 / 3)

第四章 大數定律和中心極限定理

一、本章知識串講

(一)大數定律

1切比雪夫不等式

設隨機變量X的期望EX與方差DX存在,則對任意的ε>0,有

P{|X-EX|≥ε}≤DXε2或P{|X-EX|<ε}≥1-DXε2

2切比雪夫(Chebyshev)大數定律

設隨機變量X1,X2,…,Xn,…相互獨立且具有相同的數學期望和方差:EXk=μ,DXk=σ2,k=1,2,…,則對任意的ε>0,有limn→∞P1n∑nk=1Xk-μ<ε=1

注意該定律說明,n個相互獨立且具有相同數學期望和方差的隨機變量,當n很大時,它們的算術平均值幾乎是一個常數,這個常數就是它們的數學期望

3伯努利(Bernoulli)大數定律

設n次伯努利試驗中事件A發生的次數為nA,在每次試驗中A發生的概率為p,則對任意的ε>0,有limn→∞PnAn-p<ε=1

注意伯努利大數定律是切比雪夫大數定律的特殊情況它表明,當n很大時,n次伯努利試驗中事件A發生的頻率nA/n幾乎等於事件A發生的概率p該定理以嚴格的數學形式說明了頻律的穩定性

4辛欽(KhinChine)大數定律

設隨機變量Xk(k=1,2,…)是獨立同分布的,且數學期望EXk=μ(k=1,2,…),則對任意的ε>0,有

limn→∞P1n∑nk=1Xk-μ<ε=1

注意貝努利大數定理是辛欽大數定理的特例

(二)中心極限定理

1林德伯格—列維(Limdberg-Levy)定理(獨立同分布的中心極限定理)

設隨機變量Xk(k=1,2,…)相互獨立,服從同一分布,且數學期望和方差為EXk=μ,DXk=σ2(k=1,2,…),則對任意的實數x,有

limn→∞P1σn∑nk=1Xk-nμ≤x=12π∫x-∞e-t22dt

注意該定理表明,當n充分大時,隨機變量

Yn=∑nk=1Xk-nμσn近似服從標準正態分布

2棣莫弗—拉普拉斯(De Moivre—Laplace)定理(二項分布以正態分布為極限分布)

設隨機變量Xn服從二項分布B(n,p),n=1,2,…,則對任意的實數x,有

limn→∞PXn-npnp(1-p)≤x=12π∫x-∞e-t22dt

[解法總結]該定理表明,當n很大時,可用正態分布來近似計算二項分布的概率,即將定理改寫成

limn→∞Pa<Xn-npnp(1-p)≤b=∫ba12xe-t22dt

於是得:(1)P{α≤Xn≤β}≈Φβ-npnp(1-p)-Φα-npnp(1-p);

(2)P{|Xn|<η}≈2Φη-npnp(1-p)-1

3泊鬆(Poisson)定理(二項分布以泊鬆分布為極限分布)

設隨機變量X服從參數為n,pn的二項分布,如果0<pn<1(n=1,2,…),且有limn→∞npn=λ(λ>0),則對任意的非負整數m,有

limn→∞P{X=m}=limn→∞Cmnpmn(1-pn)n-m=λmm!e-λ

[解法總結]泊鬆定理與拉普拉斯定理都是關於二項分布的極限分布的定理前者要求n充分大且p相當小時,二項分布才能以泊鬆分布為近似;而後者是n很大,np不太大時二項分布可用正態分布近似

三、能力、思維、方法

[能力素質]

題型(一)切比雪夫不等式與大數定律

例1在每次試驗中,事件A發生的概率為05,利用切比雪夫不等式估計:在1 000次獨立試驗中,事件A發生的次數在400~600之間的概率

解設X表示在1 000次獨立試驗中事件A發生的次數,則X~B(1 000,05)的二項分布,而且

EX=np=500,DX=np(1-p)=250

∴{400<X<600}={|X-EX|<100}

利用切比雪夫不等式,取ε=100,則有

P{400<X<600}=P{|X-EX|<100}≥1-DX1002=1-25010 000=0.975

∴在1 000次獨立試驗中事件A發生的次數在400~600之間的概率大於或等於0975

[解法總結]利用切比雪夫不等式估計某事件的概率,需要

①選擇隨機變量X;②求出EX和DX;

③根據題意確定ε;④利用切比雪夫不等式作估計

例2設在每次試驗中,事件A發生的概率為0.75試利用切比雪夫不等式,求n至少為多少時才能使在n次重複獨立試驗中、事件A出現的頻率在0.74~0.76之間的概率至少為0.90

解設X表示在n次重複獨立試驗中A出現的次數,則A出現的頻率為X/n顯然X服從參數為n,p=0.75的二項分布,所以

EX=0.75n,DX=0.75n(1-0.75)=0.1875n

事件0.74<Xn<0.76=0.74n<X<0.76n

={-0.01n<X-0.75n<0.01n}={|X-0.75n|<0.01n}

={|X-EX|<0.01n}

利用切比雪夫不等式,取ε=0.01n,則有

P0.74<Xn<0.76=P{|X-EX|<0.01n}>1-DX(0.01n)2

=1-0.187 5n0.000 1n2=1-1 875n

由題意取1-1 875n≥0.90,得n≥1 8751-0.90=18 750

∴至少需要做18 750次重複獨立試驗,才能使事件A出現的頻率在074到076之間的概率至少為090

[解法總結]該題為與例1相反的問題,即若p0已知,求ε使

P{|X-EX|<ε}≥1-DXε2≥p0

故需求得DX,並求解不等式1-DXε2≥p0,得ε≥DX1-p0

當所給事件不是{|X-EX|<ε}的形式時,應化為該形式這時的ε常常與n有關,於是由ε≥DX1-p0解出n所滿足的不等式

例3設X1,X2,…,Xn,…相互獨立,且P{Xk=lnk}=P{Xk=-lnk}=12 (k=1,2,…)求證:隨機變量序列X1,X2,…,Xn,…服從大數定律

證明要證明limn→∞P1n∑nk=1Xk-1n∑nk=1EXk<ε=1,

即limn→∞P1n∑nk=1Xk-1n∑nk=1EXk≥ε=0