概述
对 0-1分布、二项分布、泊松分布、几何分布、均匀分布、指数分布、正态分布，卡方分布根据其概率分布函数，推导期望值和方差。
0-1分布
概率分布
\begin{align}
P\{X=1\} & = p \\
P\{X=0\} & = (1-p)
\end{align}
期望值计算
\begin{align}
E(X) &=\sum_{i \in X} P\{X=i\}*i \\
&=p
\end{align}
方差计算
\begin{align}
E(X^2) &= \sum_{i \in X} P\{X=i\}*i^2 \\
& = p \\
(E(X))^2 &= p^2 \\
D(X) &=E(X^2) – (E(X))^2 \\
&=p^2 – p
\end{align}
二项分布
分布函数
\begin{align}
X &\sim B(n,p) \\
P\{X=k\} & =\dbinom{n}{k} p^k (1-p)^{n-k} \\
\end{align}
期望值计算
可看作 \(n\) 个独立同分布的 0-1 分布相加，于是
\begin{align}
E(X) = np
\end{align}
也可以硬算
\begin{align}
E(X)&=\sum_{k=1}{n}k\dbinom{n}{k} p^k(1-p)^{n-k} \\
&=\sum_{k=1}{n}n\dbinom{n-1}{k-1} p^k(1-p)^{n-k} \\
&=np \sum_{k=1}{n}\dbinom{n-1}{k-1} p^(k-1)(1-p)^{n-k} \\
&=np \sum_{k=1}{n}\dbinom{n-1}{k-1} p^(k-1)(1-p)^{(n-1)-(k-1)} \\
&=np
\end{align}
方差计算
依旧根据 \(n\) 个独立同分布的 0-1 分布相加，于是
\begin{align}
D(X)=np(1-p)
\end{align}
泊松分布
分布函数
\begin{align}
X &\sim P(\lambda) \\
P{X=k} &= \frac{\lambda^k}{k!}e^{-\lambda} \\
\end{align}
期望值计算
\begin{align}
E(X)&=\sum_{k=0}^{+\infty} \frac{\lambda^k}{k!}e^{-\lambda}*k \\
&=\sum_{k=1}^{+\infty} \frac{\lambda^k}{(k-1)!}e^{-\lambda} \\
&=\lambda e^{-\lambda} \sum_{k=1}^{+\infty} \frac{\lambda^{k-1}}{(k-1)!} \\
&=\lambda e^{-\lambda} e^{\lambda} \\
&=\lambda
\end{align}
注：需要用到幂级数 \(e^t\) 的泰勒展开
方差计算
\begin{align}
E(X^2) &=\sum_{k=0}^{+\infty} \frac{\lambda^k}{k!}e^{-\lambda}*k^2 \\
&=e^{-\lambda}\sum_{k=1}^{+\infty} \frac{k\lambda^k}{(k-1)!} \\
&=\lambda e^{-\lambda} \sum_{k=1}^{+\infty} \frac{(k-1)\lambda^{k-1}}{(k-1)!} + \lambda e^{-\lambda} \sum_{k=1}^{+\infty} \frac{\lambda^{k-1}}{(k-1)!} \\
&=\lambda^2 + \lambda \\
(E(X))^2 &= \lambda^2 \\
D(X) &= E(X^2) -(E(X))^2 \\
&=\lambda
\end{align}
几何分布
分布函数
\begin{align}
P\{X=k\} &=p(1-p)^{k-1} \\
\end{align}
期望值计算
\begin{align}
E(X) &= \sum_{k=1}^{+\infty}p(1-p)^{k-1}*k \\
&=p\sum_{k=1}^{+\infty} \frac{d(1-p)^k}{d(1-p)} \\
&=p \frac{d(\sum_{k=1}^{+\infty} (1-p)^k)}{d(1-p)} \\
&=p \frac{d \frac{1-p}{p}}{d(1-p)} \\
&=-p \frac{d \frac{1-p}{p}}{d(p)} \\
&=-p \frac{-p-(1-p)}{p^2} \\
&=\frac{1}{p}
\end{align}
方差计算
\begin{align}
E(X^2) &= \sum_{k=1}^{+\infty}p(1-p)^{k-1}*k^2 \\
\end{align}
考虑
\begin{align}
T=\sum_{k=1}^{+\infty} a^{k-1}k^2 &= a^0 + 2^2 a^1 +3^3 a^2 + … \\
&=\frac{d(a^1+2a^2+3a^3 +…)}{da} \\
\end{align}
进一步考虑
\begin{align}
S &= a^1+2a^2+3a^3 +… \\
aS &= a^2+2a^3+3a^4+…\\
S-aS &= a+a^2+a^3+a^4+…\\
&=\frac{a}{1-a} \\
\end{align}
由此得到
\begin{align}
S&=\frac{a}{(1-a)^2} \\
T&=\frac{d(\frac{a}{(1-a)^2})}{da} \\
&=\frac{1+a}{(1-a)^3}
\end{align}
于是
\begin{align}
E(X^2) &= \frac{2-p}{p^2} \\
D(X^2) &= E(X^2) – (E(X))^2 \\
&=\frac{1-p}{p^2}
\end{align}
均匀分布
分布函数
\begin{align}
X &\sim U(a,b) \\
\end{align}
期望值计算
\begin{align}
E(X) &= \int_a^b \frac{1}{b-a} *x dx \\
&=\frac{b+a}{2}
\end{align}
方差计算
\begin{align}
E(X^2) &= \int_{a}^{b} \frac{1}{b-a} * x^2 dx \\
&=\frac{a^2+b^2+ab}{3} \\
(E(X))^2 &= \frac{a^2+b^2+2ab}{4} \\
D(X) &= \frac{a^2+b^2-2ab}{12}
\end{align}
指数分布
分布函数
\begin{align}
& X \sim E(\lambda) \\
& f(x) = \lambda e^{-\lambda x} ,(t>0)\\
& f(x)=0,t\leq 0
\end{align}
期望值计算
\begin{align}
E(X)& =\int_0^{+\infty} x\lambda e^{-\lambda} dx \\
&=-xe^{-\lambda x}|_0^{+\infty} + \int_{0}^{+\infty} e^{-\lambda x} dx \\
&=\frac{1}{\lambda}
\end{align}
方差计算
\begin{align}
D(X)=\frac{1}{\lambda^2}
\end{align}
正态分布
分布函数
\begin{align}
& X \sim N(\mu,\sigma^2) \\
& f(x)=\frac{1}{\sqrt{2\pi} \sigma} e^{-\frac{(x-\mu)^2}{2\sigma^2}}
\end{align}
期望值计算
\begin{align}
E(X)&=\mu
\end{align}
方差计算
\begin{align}
E(X)&=\sigma^2
\end{align}
卡方分布
\begin{align}
&X_k \sim N(0,1) \\
&\chi^2 = \sum_{k=1}^{n} X_k^2 \sim \chi^2(n) \
\end{align}
期望值计算
\begin{align}
E(\chi^2) &= E(\sum_{k=1}^{n} X_k^2) \\
&=\sum_{k=1}^{n} D(X_k) \\
& =n
\end{align}
方差计算
\begin{align}
D(\chi^2)&=\sum_{k=1}^{n} D(X_k^2) \\
&=\sum_{k=1}^{n} (E(X_k^4)-(E(X_k^2))^2) \\
&=\sum_{k=1}^{n} (\int_{-\infty}^{+\infty} x^4 \frac{1}{\sqrt{2\pi}} e^{-\frac{x^2}{2}} dx -1) \\
&=\sum_{k=1}^{n} (3-1) \\
&=2n
\end{align}