概率论：常见分布的数字特征

Posted on

应用随机过程：常见分布的数字特征

退化分布(单点分布)

若随机变量$X$只取常数$c$,即
$$
P{X=c}=1
$$
则$X$并不随机，但我们把它看作随机变量的退化情况更为方便，因此称之为退化分布，又称单点分布.

离散均匀分布

若随机变量$X$的分布律为
$$
P(X=k)=\frac1n,\quad k=1,2,\cdots,n
$$
则称之为离散均匀分布，记作$X\sim U{1,\cdots,n}$​.

Property

  1. 特征函数
    $$
    \psi_X(t)=\frac{e^{ita}-e^{it(b+1)}}{(1-e^{it})(b-a+1)}
    $$

Bernoulli分 布

若 随 机 变 量$X$的分布律为
$$
P(X=k)=p^k(1-p)^{n-k},\quad k=0,1
$$
则称之为离散均匀分布，记作$X\sim$Ber$(p)$.

设事件$A$出现的概率为$p,0<p<1$,则$X$为一次伯努利试验中$A$​出现的次数.

Property

  1. 特征函数
    $$
    \psi_{X}(t)=1-p+pe^{it}
    $$

二项分布

若随机变量$X$​的分布律为
$$
\left.P(X=k)=\left(\begin{array}{c}n\k\end{array}\right.\right)p^k(1-p)^{n-k},\quad k=0,1,\cdots,n
$$
则称之为以$n$和$p$为参数的二项分布，记作$X\sim B(n,p)$.

设事件$A$在每次试验中出现的概率均为$p,0<p<1$,且每次实验相互独立，则$X$为$n$重伯努利试验中事件$A$​出现的次数.

Property

  1. 特征函数
    $$
    \psi_{X}(t)=1-p+pe^{it}
    $$

几何分布

若随机变量$X$的分布律为
$$
P(X=k)=p(1-p)^{k-1},\quad k\geq1
$$
则称之为几何分布，记作$X\sim$Geom$(p)$.

在伯努利试验中， 设事件$A$在每次试验中出现的概率均为$p,0<p<1$,则$X$为事件$A$首次出现时的总试验次数;

Property

  1. 特征函数
    $$
    \psi_X(t)=\frac{p}{e^{-it}-(1-p)}
    $$

Poisson分 布

若 随 机 变 量 $X$的分布律为
$$
P(X=k)=\frac{e^{-\lambda}\lambda^k}{k!},\quad k=0,1,\cdots
$$
其中$\lambda>0$,则称$X$服从Poisson分布，记为$X\sim$Poi$(\lambda).$​

Property

  1. 特征函数
    $$
    \psi_X(t)=e^{\lambda(e^{it}-1)}
    $$

  2. 数学期望
    $$
    E[X]=\lambda
    $$

  3. 方差
    $$
    Var[X]=\lambda
    $$

负二项分布

对于任意实数$r>0$,若随机变量$X$的分布律为
$$
\left.P(X=k)=\left(\begin{array}{c}k+r-1\k\end{array}\right.\right)p^r(1-p)^k,:k=0,1,2,\cdots
$$
则称之为负二项分布，记作$X\sim\mathsf{NB}(r,p)$​。

Property

  1. 特征函数
    $$
    \psi_X(t)=\left(\frac{p}{1-(1-p)e^{it}}\right)^r
    $$

在伯努利试验中，设事件$A$在每次试验中出现的概率均为$p$,则$X$为直到事件$A$成功$r$次时，试验的总失败次数。

负二项分布通常用于替换Poisson分布。同Poisson分布一样，它也在非负整数上取值，但因为它包含两个参数，相比Poisson 分布其变化更灵活。Poisson分布的方差和均值相等，但负二项分布的方差大于均值.

Property

  1. 特征函数
    $$
    \psi_{X}(t)=\left(\frac p{1-(1-p)e^{it}}\right)^{r}
    $$

连续均匀分布

如果$X$的概率密度为
$$
\left.f(x)=\left{\begin{array}{ll}1/(b-a),&\text{若 }a\leq x\leq b\0,&\text{其他}\end{array}\right.\right.
$$
其中$a<b$,则称之为区间$[a,b]$上的(连续)均匀分布，记为$X\sim\mathbf{U}[a,b].$​

Property

  1. 特征函数
    $$
    \psi_X(t)=\frac{e^{itb}-e^{ita}}{t(b-a)}
    $$

正态分布

如果$X$的概率密度为
$$
f(x)=\frac1{\sigma\sqrt{2\pi}}\cdot e^{-\frac{(x-\mu)^2}{2\sigma^2}},x\in\mathbb{R}
$$
则称之为参数为$\mu$和$\sigma^2$的正态分布，也称为高斯分布，记为$X\sim\mathsf{N}(\mu,\sigma^{2}).$​

Property

  1. 若随机变量X服从正态分布$N(0,\sigma^2)$,其中$\sigma>0$,$X$的$k$​阶原点矩
    $$
    E(X^{k})=\left{\begin{array}{ll}0, & \text{当}k\text{为奇数时};\ \sigma^{k}(k-1)!!, & \text{当}k\text{为偶数时}.\end{array}\right.
    $$

    证明 $E(X^k)=(k-1)E(X^{k-2}),E(X)=0$

  2. 特征函数
    $$
    \psi_X(t)=e^{it\mu-\frac12\sigma^2t^2}
    $$

指数分布

如果$X$的概率密度为
$$
\left.f(x)=\left{\begin{array}{ll}\lambda e^{-\lambda x},&x\geq0\0,&x<0\end{array}\right.\right.
$$
则称之为指数分布，记为$X\sim$Exp$(\lambda).$​

Property

  1. 特征函数
    $$
    \psi_X(t)=(1-it\lambda^{-1})^{-1}
    $$

  2. 分布函数
    $$
    F(x)=P(X\le x)=1-e^{-\lambda x}
    $$

  3. 数学期望
    $$
    E[X]=\frac{1}{\lambda}
    $$

  4. 方差
    $$
    Var(X)=\frac{1}{\lambda}
    $$

卡方分布

如果$X$的概率密度为
$$
f(x)=\frac1{2^{\frac n2}\Gamma(\frac n2)}x^{\frac n2-1}e^{-\frac x2},\quad x>0
$$
$n$为正整数，则称之为自由度为$n$的卡方分布，记为$X\sim\chi^2(n).$​

Property

  1. 特征函数
    $$
    \psi_X(t)=(1-2it)^{-\frac n 2}
    $$

  2. 数学期望
    $$
    E[X]=n
    $$
    方差
    $$
    Var[X]=2n
    $$

$\Gamma$分 布

若$X$的概率密度为
$$
\left.f(x)=\left{\begin{array}{ll}\frac{\beta^\alpha}{\Gamma(\alpha)}x^{\alpha-1}e^{-\beta x},&x\geq0\0,&x<0\end{array}\right.\right.
$$
$\alpha > 0$, $\beta > 0$, 则称$X$服从形状参数$\alpha$,反尺度参数$\beta$的$\Gamma$分布，记为$X\sim \Gamma(\alpha,\beta)$.

image-20240602162822256

  1. $E(X)=\alpha/\beta,D(X)=\alpha/\beta^2.$

  2. 如果$X\sim\Gamma(\alpha,\beta)$,对任意的$c>0,cX\sim\Gamma(\alpha,\frac\beta c)$

  3. 如果$X\sim$Exp$(\lambda)$,则$X\sim\Gamma(1,\lambda)$

  4. 如果$X\sim\chi^2(n)$,则 $X\sim \mathsf{Exp}(\frac n2,\frac12).$

  5. 如果$X_1,X_2,\ldots,X_n$相互独立同分布且服从参数为$\lambda$的指数分布，则$\sum_{i=1}^nX_i\sim \Gamma(n,\lambda)$

  6. 分布函数
    $$
    F(x)=\int_0^xf(x)dx=1-\sum_{i=0}^{\alpha-1}\frac{(\beta x)^i}{i!}e^{-\beta x}.
    $$

  7. 特征函数
    $$
    \psi_X(t)=(1-it\beta^{-1})^{-\alpha}
    $$

多维正态分布

设$\boldsymbol{\mu}=(\mu_1,\cdots,\mu_d)^T$,$\boldsymbol{\Sigma}$是$d$阶正定对称矩阵,并且其行列式为$|\Sigma|$.如果$\mathbf{X}=(X_1,X_2,\ldots,X_d)^T$的联合概率密度为
$$
f(x_1,\cdots,x_d)=(2\pi)^{-d/2}|\Sigma|^{-1/2}\exp{-\frac12(\mathbf{x}-\boldsymbol{\mu})^{\prime}\boldsymbol{\Sigma}^{-1}(\mathbf{x}-\boldsymbol{\mu})}
$$
则称之为$d$维正态分布,记为$\mathbf{X}\sim\mathsf{N}_d(\boldsymbol{\mu},\boldsymbol{\Sigma}). $

Property

  1. 特征函数
    $$
    \psi_\boldsymbol{X}(\boldsymbol{t})=\exp{i\boldsymbol{t}^T\boldsymbol{\mu}-\frac12\boldsymbol{t}^T\boldsymbol{\Sigma}\boldsymbol{t}}
    $$

  2. 若$\mathbf{X}\sim N_d(\mathbf{0},\mathbf{I}_d)$,则X的任一线性函数$\mathbf{Y}=\mathbf{A}_n\times d\mathbf{X}+\boldsymbol{\mu}$ 服从$n$维正态分布$N_n(\boldsymbol{\mu},\mathbf{A}\mathbf{A}^T)$

  3. 若$\mathbf{Y}\sim N(\boldsymbol{\mu},\boldsymbol{\Sigma})$,则 $\mathbf{A}\mathbf{Y}+\mathbf{b}\sim N(\mathbf{A}\boldsymbol{\mu}+\mathbf{b},\mathbf{A}\boldsymbol{\Sigma}\mathbf{A}^T)$

  4. 设$\mathbf{X}\sim N(\mu_1,\sigma_1^2),Y\sim N(\mu_2,\sigma_2^2)$,并且$X$与$Y$相互独立，则

    $$
    (X,X+Y)^T\sim N(\boldsymbol{\mu},\boldsymbol{\Sigma}).
    $$
    其中均值$\boldsymbol{\mu}=(\mu_1,\mu_1+\mu_2)^T$,协方差矩阵$\boldsymbol\Sigma=\left(\begin{array}{cc}\sigma_1^2&\sigma_1^2\\sigma_1^2&\sigma_1^2+\sigma_2^2\end{array}\right)$

  5. $(X_1,X_2,\cdots,X_n)^T$服从$n$维正态分布当且仅当其任意非零线性组合
    $$
    l_1X_1+l_2X_2+\cdots+l_nX_n
    $$
    服从正态分布,其中$l_1,l_2,\cdots,l_n$不全为零.

  6. 特别的，对二位联合正态分布，其联合概率密度为
    $$
    \mathrm{f(x,y)}=\frac{1}{2\pi\sigma_{1}\sigma_{2}\sqrt{1-\rho^{2}}}e^{\left{-\frac{1}{2(1-\rho^{2})}\left[\frac{(x-\mu_{1})^{2}}{\sigma_{1}^{2}}-2\rho\frac{(x-\mu_{1})(x-\mu_{2})}{\sigma_{1}\sigma_{2}}+\frac{(y-\mu_{2})^{2}}{\sigma_{2}^{2}}\right]\right}}
    $$
    其中相关系数$\rho = \frac{Cov(X,Y)}{\sqrt{Var(X)Var(Y)}}$