生成函数

学校老师貌似没讲，但感觉还挺有用的，主要是用来求期望和方差。

常规方法求期望，我们有：

$$\text{若}P\left( X=k_i \right) =p_i\,\,\left( i=1,2,… \right)$$

$$\text{则}Ex=\sum_{i=0}^n{k_i·p_i}$$

$$\text{若}X\text{有概率密度函数：}\int_{-\infty}^{\infty}{f\left( x \right) dx}$$

$$\text{则}E\left( X \right) =\int_{-\infty}^{\infty}{xf\left( x \right) dx}$$

生成函数求期望

对于随机变量X，若其取值为非负整值，那么就可以使用生成函数求其期望。

设：

$$P\left( X=k \right) =P_k\,\, k=0,1,2…$$

$$\text{生成函数}g\left( t \right) \,\,=\,\,\sum_{k=0}^{\infty}{p_k·t^k}$$

立即推：$$g\left( 1 \right) =1$$

$$g'\left( t \right) =\sum_{k=0}^{\infty}{k·p_k·t^{k-1}}$$

$$\text{当}t=1\text{时}g'\left( 1 \right) =\sum_{k=0}^{\infty}{k·p_k}=Ex$$

对于二项分布的期望

虽然一般都是记结论，但会推还是比较重要的，如果用定义的话对排列组合的要求非常高，而直接使用生成函数就可以很方便的求出：

$$X\sim B\left( n,p \right)$$

$$
g\left( t \right) =\sum_{k=0}^n{\left( \begin{array}{c}
n\
k\
\end{array} \right) p^k\left( 1-p \right) ^{n-k}t^k}
$$

根据二项式定理，我们可以推出：

$$
g\left( t \right) =\sum_{k=0}^n{\left( \begin{array}{c}
n\
k\
\end{array} \right) \left( pt \right) ^k·\left( 1-p \right) ^{n-k}=\left( pt+\left( 1-p \right) \right) ^n}
$$

$$
\therefore g'\left( t \right) =np\left( pt+\left( 1-p \right) \right) ^{n-1}
$$

$$
g'\left( 1 \right) =np
$$

对于泊松分布的期望

$$
X\sim P\left( \lambda \right)
$$

$$
g\left( t \right) =\sum_{k=0}^{\infty}{\frac{e^{-\lambda}\lambda ^k}{k!}·t^k}=e^{-\lambda}\sum_{k=0}^{\left( \infty \right)}{\frac{\left( \lambda t \right) ^k}{k!}}
$$

根据泰勒展开公式

$$
g\left( t \right) =e^{-\lambda +\lambda t}
$$

$$
g'\left( 1 \right) =e^{-\lambda +\lambda t}·\lambda |_{t=1}=\lambda
$$

$$
Ex=\lambda
$$

生成函数求方差(Var)

$$
\text{对于}P\left( X=x_i \right) =p_i\,\, i=1,2,…
$$

根据定义：

$$
Var\left( X \right) =E\left( X-EX \right) ^2
$$

$$
\text{设}\mu =Ex
$$

$$
E\left( X-Ex \right) =\sum_{i=1}^{\infty}{\left( x_i-\mu \right) ^2p_i=\sum_{i=1}^{\infty}{x_{i}^{2}·p_i-\left( \sum_{i=1}^{\infty}{x_ip_i} \right) ^2}}=EX^2-\left( EX \right) ^2
$$

$$
\therefore Var\left( X \right) =EX^2-\left( EX \right) ^2
$$

我们再回到生成函数：

$$g'\left( t \right) =\sum_{k=0}^{\infty}{k·p_k·t^{k-1}}$$

$$
g''\left( t \right) =\sum_{i=0}^{\infty}{k\left( k-1 \right) p_kt^{k-2}}
$$

$$
g''\left( 1 \right) =\sum_{i=0}^{\infty}{k\left( k-1 \right) p_k}=\sum_{i=0}^{\infty}{k^2·p_k}-\sum_{i=0}^{\infty}{k·p_k}
$$

至此，我们很简单就能推出：

$$
Var\left( X \right) =g''\left( x \right) +g'\left( x \right) -\left( g'\left( x \right) \right) ^2
$$

对于二项分布的方差

$$
X\sim B\left( n,p \right)
$$

由上面的结论我们可以得到：

$$
\therefore g'\left( t \right) =np\left( pt+\left( 1-p \right) \right) ^{n-1}
$$

$$
g''\left( t \right) =n\left( n-1 \right) p\left( pt+\left( 1-p \right) \right) ^{n-1}
$$

$$
\therefore Var\left( X \right) =g''\left( 1 \right) +g'\left( 1 \right) -\left( g'\left( 1 \right) \right) ^2=n\left( n-1 \right) p^2+np-n^2p^2=np\left( 1-p \right)
$$