常用随机变量的期望和方差推导

概述

对 0-1分布、二项分布、泊松分布、几何分布、均匀分布、指数分布、正态分布,卡方分布根据其概率分布函数,推导期望值和方差。

0-1分布

概率分布

\begin{align}
P\{X=1\} & = p \\
P\{X=0\} & = (1-p)
\end{align}

期望值计算

\begin{align}
E(X) &=\sum_{i \in X} P\{X=i\}*i \\
&=p
\end{align}

方差计算

\begin{align}
E(X^2) &= \sum_{i \in X} P\{X=i\}*i^2 \\
& = p \\
(E(X))^2 &= p^2 \\
D(X) &=E(X^2) – (E(X))^2 \\
&=p^2 – p
\end{align}

二项分布

分布函数

\begin{align}
X &\sim B(n,p) \\
P\{X=k\} & =\dbinom{n}{k} p^k (1-p)^{n-k} \\
\end{align}

期望值计算

可看作 \(n\) 个独立同分布的 0-1 分布相加,于是

\begin{align}
E(X) = np
\end{align}

也可以硬算

\begin{align}
E(X)&=\sum_{k=1}{n}k\dbinom{n}{k} p^k(1-p)^{n-k} \\
&=\sum_{k=1}{n}n\dbinom{n-1}{k-1} p^k(1-p)^{n-k} \\
&=np \sum_{k=1}{n}\dbinom{n-1}{k-1} p^(k-1)(1-p)^{n-k} \\
&=np \sum_{k=1}{n}\dbinom{n-1}{k-1} p^(k-1)(1-p)^{(n-1)-(k-1)} \\
&=np
\end{align}

方差计算

依旧根据 \(n\) 个独立同分布的 0-1 分布相加,于是

\begin{align}
D(X)=np(1-p)
\end{align}

泊松分布

分布函数

\begin{align}
X &\sim P(\lambda) \\
P{X=k} &= \frac{\lambda^k}{k!}e^{-\lambda} \\
\end{align}

期望值计算

\begin{align}
E(X)&=\sum_{k=0}^{+\infty} \frac{\lambda^k}{k!}e^{-\lambda}*k \\
&=\sum_{k=1}^{+\infty} \frac{\lambda^k}{(k-1)!}e^{-\lambda} \\
&=\lambda e^{-\lambda} \sum_{k=1}^{+\infty} \frac{\lambda^{k-1}}{(k-1)!} \\
&=\lambda e^{-\lambda} e^{\lambda} \\
&=\lambda
\end{align}

注:需要用到幂级数 \(e^t\) 的泰勒展开

方差计算

\begin{align}
E(X^2) &=\sum_{k=0}^{+\infty} \frac{\lambda^k}{k!}e^{-\lambda}*k^2 \\
&=e^{-\lambda}\sum_{k=1}^{+\infty} \frac{k\lambda^k}{(k-1)!} \\
&=\lambda e^{-\lambda} \sum_{k=1}^{+\infty} \frac{(k-1)\lambda^{k-1}}{(k-1)!} + \lambda e^{-\lambda} \sum_{k=1}^{+\infty} \frac{\lambda^{k-1}}{(k-1)!} \\
&=\lambda^2 + \lambda \\
(E(X))^2 &= \lambda^2 \\
D(X) &= E(X^2) -(E(X))^2 \\
&=\lambda
\end{align}

几何分布

分布函数

\begin{align}
P\{X=k\} &=p(1-p)^{k-1} \\
\end{align}

期望值计算

\begin{align}
E(X) &= \sum_{k=1}^{+\infty}p(1-p)^{k-1}*k \\
&=p\sum_{k=1}^{+\infty} \frac{d(1-p)^k}{d(1-p)} \\
&=p \frac{d(\sum_{k=1}^{+\infty} (1-p)^k)}{d(1-p)} \\
&=p \frac{d \frac{1-p}{p}}{d(1-p)} \\
&=-p \frac{d \frac{1-p}{p}}{d(p)} \\
&=-p \frac{-p-(1-p)}{p^2} \\
&=\frac{1}{p}
\end{align}

方差计算

\begin{align}
E(X^2) &= \sum_{k=1}^{+\infty}p(1-p)^{k-1}*k^2 \\
\end{align}

考虑

\begin{align}
T=\sum_{k=1}^{+\infty} a^{k-1}k^2 &= a^0 + 2^2 a^1 +3^3 a^2 + … \\
&=\frac{d(a^1+2a^2+3a^3 +…)}{da} \\
\end{align}

进一步考虑

\begin{align}
S &= a^1+2a^2+3a^3 +… \\
aS &= a^2+2a^3+3a^4+…\\
S-aS &= a+a^2+a^3+a^4+…\\
&=\frac{a}{1-a} \\
\end{align}

由此得到

\begin{align}
S&=\frac{a}{(1-a)^2} \\
T&=\frac{d(\frac{a}{(1-a)^2})}{da} \\
&=\frac{1+a}{(1-a)^3}
\end{align}

于是

\begin{align}
E(X^2) &= \frac{2-p}{p^2} \\
D(X^2) &= E(X^2) – (E(X))^2 \\
&=\frac{1-p}{p^2}
\end{align}

均匀分布

分布函数

\begin{align}
X &\sim U(a,b) \\
\end{align}


期望值计算

\begin{align}
E(X) &= \int_a^b \frac{1}{b-a} *x dx \\
&=\frac{b+a}{2}
\end{align}

方差计算

\begin{align}
E(X^2) &= \int_{a}^{b} \frac{1}{b-a} * x^2 dx \\
&=\frac{a^2+b^2+ab}{3} \\
(E(X))^2 &= \frac{a^2+b^2+2ab}{4} \\
D(X) &= \frac{a^2+b^2-2ab}{12}
\end{align}

指数分布

分布函数

\begin{align}
& X \sim E(\lambda) \\
& f(x) = \lambda e^{-\lambda x} ,(t>0)\\
& f(x)=0,t\leq 0
\end{align}

期望值计算

\begin{align}
E(X)& =\int_0^{+\infty} x\lambda e^{-\lambda} dx \\
&=-xe^{-\lambda x}|_0^{+\infty} + \int_{0}^{+\infty} e^{-\lambda x} dx \\
&=\frac{1}{\lambda}
\end{align}

方差计算

\begin{align}
D(X)=\frac{1}{\lambda^2}
\end{align}

正态分布

分布函数

\begin{align}
& X \sim N(\mu,\sigma^2) \\
& f(x)=\frac{1}{\sqrt{2\pi} \sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}}
\end{align}

期望值计算

\begin{align}
E(X)&=\mu
\end{align}

方差计算

\begin{align}
E(X)&=\sigma^2
\end{align}

卡方分布

\begin{align}
&X_k \sim N(0,1) \\
&\chi^2 = \sum_{k=1}^{n} X_k^2 \sim \chi^2(n) \
\end{align}

期望值计算

\begin{align}
E(\chi^2) &= E(\sum_{k=1}^{n} X_k^2) \\
&=\sum_{k=1}^{n} D(X_k) \\
& =n
\end{align}

方差计算

\begin{align}
D(\chi^2)&=\sum_{k=1}^{n} D(X_k^2) \\
&=\sum_{k=1}^{n} (E(X_k^4)-(E(X_k^2))^2) \\
&=\sum_{k=1}^{n} (\int_{-\infty}^{+\infty} x^4 \frac{1}{\sqrt{2\pi}} e^{-\frac{x^2}{2}} dx -1) \\
&=\sum_{k=1}^{n} (3-1) \\
&=2n
\end{align}


Leave a Comment