标签：02 right frac sum WLLN SLLN bar left mathrm
目录弱大数律(WLLN)
在概率论的学习中，对于\(i.i.d.\)随机变量平均值的收敛形式及收敛条件，我们给出下述条件：
-
对于弱大数律（WLLN），要求\(E|X_1|<\infty\)
-
对于中心极限定理，要求 \(Cov(X_1)=\Sigma<\infty\)
在以下讨论中，对于上述条件进行放宽并尝试给出定理成立的充要条件。
独立同分布情形
定理3.1：设$X_1,X_2,\cdots \(为独立同分布的随机变量。存在常数列\)a_{n}$ 使得 \(\frac{1}{n} \sum_{i=1}^{n} X_{i}-a_{n} \stackrel{p}{\rightarrow} 0\) 成立 \(\iff\) \(x \mathrm{P}\left(\left|X_{1}\right|>x\right) \rightarrow 0, x \rightarrow \infty\), 其中\(a_n\)可以取为 \(a_{n}=\mathrm{E}\left(X_{1} 1_{\left\{\left|X_{1}\right| \leq n\right\}}\right)\)
注：一阶矩有限仅为弱大数律成立的充分条件，想要弱大数律成立仅需尾部概率”足够小“即可。
例1：设 \(X_{1}, X_{2}, \ldots, X_{n}\) 为 i.i.d. 随机向量，生存函数为\(\mathrm{P}\left(X_{i}>x\right)=e /(x \log x)\) 对任意 \(x \geq e\) 。则有 \(\mathrm{E}\left|X_{1}\right|=\infty\) ，且存在常数列 \(\mu_{n} \rightarrow \infty\) 使得 \(\bar{X}_{n}-\mu_{n} \stackrel{p}{\rightarrow} 0\).
证明：
由\(\mathrm{E}\left|X_{1}\right|=\int_{0}^{\infty} \mathrm{P}\left(X_{1}>y\right) \mathrm{d} y=e+\int_{1}^{\infty} \frac{e}{t} \mathrm{~d} t=\infty\)可知\(X_i\)的期望无界
但\(\mathrm{xP}\left(\left|X_{1}\right| \geq x\right)=\frac{e}{\log x} \rightarrow 0\) ， \(x \rightarrow \infty\)成立，则说明弱大数律成立
例2：设 \(X_{1}, X_{2}, \ldots, X_{n}\stackrel{i.i.d}{\sim} \operatorname{Cauchy}(0,1)\)，但对于\(\bar{X}_n\) 弱大数律不成立。
证明：
\[\mathrm{P}\left(\left|X_{1}\right|>x\right)=2 \int_{x}^{\infty} \frac{1}{\pi\left(1+t^{2}\right)} \mathrm{d} t \sim \frac{2}{\pi} x^{-1} \]不满足弱大数律成立的充要条件
但根据特征函数，可以得到\(\bar X_n\stackrel{d}{\rightarrow}X_1\)。
不相关情形
当样本并不服从独立同分布时，要使弱大数律成立，以下考虑对二阶矩作出限制。
定理3.2：设 \(X_{1}, X_{2}, \ldots\) 不相关，均值分别为 \(\mu_{1}, \mu_{2}, \ldots\) ，方差分别为 \(\sigma_{1}^{2}, \sigma_{2}^{2}, \ldots\) 且有限。如果 \(\sum_{i=1}^{n} \sigma_{i}^{2}=o\left(n^{2}\right)\), 则
\(n^{-1} \sum_{i=1}^{n}\left(X_{i}-\mu_{i}\right) \stackrel{p}{\rightarrow} 0\)
强大数律(SLLN)
独立同分布情形
定理4.1：(SLLN)设$X_1,X_2,\cdots $为独立同分布的随机变量。 存在常数 \(c\) 使得 \(\frac{1}{n} \sum_{i=1}^{n} X_{i}{\rightarrow} c\) 成立\(\iff\) \(\mathrm{E}\left|X_{1}\right|<\infty\), 其中 \(c=\mathrm{E}\left(X_{1}\right)\)
注：一阶矩有限\(i.i.d\)样本强大数律成立的充要条件
例：样本（Pearson）相关系数
设 \(\left(X_{i}, Y_{i}\right), i=1,2, \ldots, n\) 为 i.i.d. 随机向量，记 \(\mathrm{E}\left(X_{1}\right)=\mu_{X}, \mathrm{E}\left(Y_{1}\right)=\mu_{Y}\) \(\operatorname{Var}\left(X_{1}\right)=\sigma_{X}^{2}<\infty, \operatorname{Var}\left(Y_{1}\right)=\sigma_{Y}^{2}<\infty\), 和 \(\operatorname{Cor}\left(X_{1}, Y_{1}\right)=\rho .\) 则样本（Pearson）相关系数
\(r_{n}=\frac{\sum_{i=1}^{n}\left(X_{i}-\bar{X}_{n}\right)\left(Y_{i}-\bar{Y}_{n}\right)}{\sqrt{\sum_{i=1}^{n}\left(X_{i}-\bar{X}_{n}\right)^{2}} \sqrt{\sum_{i=1}^{n}\left(Y_{i}-\bar{Y}_{n}\right)^{2}}}\)几乎处处收敛到 \(\rho\)
证明：
将\(r_n\)变形为：
\[r_{n}=\frac{\frac{1}{n} \sum X_{i} Y_{i}-\bar{X}_{n} \bar{Y}_{n}}{\sqrt{\left(\frac{1}{n} \sum X_{i}^{2}-\bar{X}_{n}^{2}\right)\left(\frac{1}{n} \sum Y_{i}^{2}-\bar{Y}_{n}^{2}\right)}} \]由强大数律和连续映射定理可知：$ r_{n} \stackrel{w p 1}{\rightarrow} \frac{\mathrm{E}\left(X_{1} Y_{1}\right)-\mu_{X \mu Y}}{\sigma_{X} \sigma_{Y}}=\rho$
独立情形
当样本不满足同分布条件时，要使强大数律成立，以下考虑对二阶矩做出限制。
定理4.2：设 \(X_{1}, X_{2}, \ldots\) 独立，均值分别为 \(\mu_{1}, \mu_{2}, \ldots\) ，方差分别为 \(\sigma_{1}^{2}, \sigma_{2}^{2}, \ldots\) 且有限。如果 \(\sum_{i=1}^{\infty} \sigma_{i}^{2} / p^{2}<\infty\), 则 \(n^{-1} \sum_{i=1}^{n}\left(X_{i}-\mu_{i}\right) \stackrel{w p 1}{\rightarrow} 0\)
标签：02,right,frac,sum,WLLN,SLLN,bar,left,mathrm 来源： https://www.cnblogs.com/YuzifeiYu/p/15940005.html
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。