Generating Function

幂级数展开中各阶系数和一个数列对应相等的函数,称为这个数列的母函数,也叫生成函数。母函数有很多种,比如普通母函数、指数母函数、L级数等等,每个序列都可以写出以上类型的一个母函数,构造母函数的目的一般是为了解决某个特定的问题,因此选择哪种母函数主要是看序列本身的特性以及问题的类型。

接下来就开始介绍统计学中比较常见的概率母函数和矩母函数,对于取值为非负整数的随机变量X,其概率母函数为:
$$G_x(t)=\sum_{i=0}^\infty P(X=i) t^i = E(t^X)$$
就这样可能看不出什么,可是这个函数最牛逼的地方,就是对它求导并取t=0,就可以得到不同x的概率,比如求一次导,就得到x=1的概率(试一下就知道为什么了),所以这个式子包含了x的所有取值的概率,所以才叫概率母函数(概率生成函数)。

再看回母函数的定义,为什么要把这个函数称为概率母函数,或者说为什么要写成幂级数的形式,首先,母函数定义中的序列就是服从某个分布的随机变量的取值的概率值,把这个序列乘上一个t的i次方,也就是乘上一个幂级数,这样,在函数对t求导并取t=0的时候,就可以保留只保留求导次数对应的那个x的取值的概率,而使得其他概率的系数都变为零而省略掉。所以
然后,对于任意随机变量X(不要求非负整数),矩母函数则是:
$$M_X(t) = E(e^{tX})$$
从定义上来说,矩母函数是指能产生一个随机变量各阶原点矩的母函数。所以说,母函数定义中的序列在这里主要指各阶原点阵。可是这个序列在哪里?事实上,我们可以对e^(tx)通过拉普拉斯变换展开,其展开式就包含了所有高阶矩:
$$M(t) = \sum_{n=0}^\infty \frac{t^n}{n!} E[X^n]$$
和概率母函数类似,只要求导并取t=0,就可以得到各阶的原点矩了。

值得注意的是,概率母函数和矩母函数是可以相互转化的:
$$M_X(log(t)) = E(e^{tlog(X)}) = E(X^t) = G_X(t)$$
还有就是这两个母函数的一些特性,比如他们都是和分布一一对应的,也就是说具有唯一性。除此之外,独立随机变量和的概率母函数或者矩母函数分别是独立随机变量相应函数的乘积。因此,我们可以通过概率母函数或者矩母函数求非负整数离散型随机变量的和的分布(比如二项分布、泊松分布等),如果是更一般的随机变量则只能用矩母函数(如正态分布)

参考资料:
[1]https://www.zhihu.com/question/25627482
[2]https://www.datalearner.com/blog/1051508471058920