湖北省住房建设部官方网站,苏州网页设计app,wordpress主题模板视频网站模板,抖音添加小程序怎么赚钱目前的概率论或者随机变量书籍过分强调对独立随机变量的大数定律#xff0c;中心极限定理#xff0c;遗憾上界的估计。而对于非独立随机变量的研究很少#xff0c;在《概率论的极限定理》中曾给出过一般随机变量求和的渐进分布簇的具体形式#xff0c;然而形式却太过复杂。…目前的概率论或者随机变量书籍过分强调对独立随机变量的大数定律中心极限定理遗憾上界的估计。而对于非独立随机变量的研究很少在《概率论的极限定理》中曾给出过一般随机变量求和的渐进分布簇的具体形式然而形式却太过复杂。下面将以切比雪夫不等式为基本出发点研究非独立情况下的随机变量均值的一个误差上界为后面研究提供基础。
非独立随机变量概率误差上界 若对于随机变量 { r t 1 , r t 1 , . . . , r t n } \{r_{t1},r_{t1},...,r_{tn}\} {rt1,rt1,...,rtn}存在 D max ≥ 0 D_{\max}\geq0 Dmax≥0使得对于任意 k k k有 D [ r t k ∣ H k ] ≤ D max \mathbb{D}[r_{tk}|H_k]\leq D_{\max} D[rtk∣Hk]≤Dmax则有下面的式子成立对于给定 ε 0 \varepsilon 0 ε0 P [ ∣ 1 n ∑ k 1 n r t k − 1 n ∑ k 1 n E t k [ r t k ∣ H k ] ∣ ε ] ≤ D [ ∑ k 1 n r t k ∣ H n ] n 2 ε 2 ∑ k 1 n D [ r t k ∣ H n ] ∑ i 1 n ∑ j ≠ i n [ E [ r t i r t j ∣ H n ] − E [ r t i ∣ H n ] E [ r t j ∣ H n ] n 2 ε 2 ∑ k 1 n D [ r t k ∣ H n ] ∑ i 1 n ∑ j ≠ i n ρ i j D [ r t i ∣ H n ] D [ r t j ∣ H n ] n 2 ε 2 D max n ∑ i 1 n ∑ j ≠ i ρ i j n 2 ε 2 \mathbb{P}[|\frac{1}{n}\sum_{k1}^nr_{tk}-\frac{1}{n}\sum_{k1}^n\mathbb{E}_{tk}[r_{tk}|H_k]|\varepsilon]\leq \frac{\mathbb{D}[\sum_{k1}^nr_{tk}|H_n]}{n^2\varepsilon^2}\\ \frac{\sum_{k1}^n\mathbb{D}[r_{tk}|H_n]\sum_{i1}^n\sum_{j\ne i}^n[\mathbb{E}[r_{ti}r_{tj}|H_n]-\mathbb{E}[r_{ti}|H_n]\mathbb{E}[r_{tj}|H_n]}{n^2\varepsilon^2}\\ \frac{\sum_{k1}^n\mathbb{D}[r_{tk}|H_n]\sum_{i1}^n\sum_{j\ne i}^n\rho_{ij}\sqrt{\mathbb{D}[r_{ti}|H_n]}\sqrt{\mathbb{D}[r_{tj}|H_n]}}{n^2\varepsilon^2}\\D_{\max}\frac{n\sum_{i1}^n\sum_{j\ne i}\rho_{ij}}{n^2\varepsilon^2} P[∣n1k1∑nrtk−n1k1∑nEtk[rtk∣Hk]∣ε]≤n2ε2D[∑k1nrtk∣Hn]n2ε2∑k1nD[rtk∣Hn]∑i1n∑jin[E[rtirtj∣Hn]−E[rti∣Hn]E[rtj∣Hn]n2ε2∑k1nD[rtk∣Hn]∑i1n∑jinρijD[rti∣Hn] D[rtj∣Hn] Dmaxn2ε2n∑i1n∑jiρij 其中 ρ i j ∈ [ − 1 , 1 ] \rho_{ij}\in[-1,1] ρij∈[−1,1]表示随机变量 r t i r_{ti} rti和随机变量 r t j r_{tj} rtj的相关系数描述了其相关程度。
推论1 可以看出的是若相关性最强的情况对于任意两个随机变量 r t i r_{ti} rti和 r t j r_{tj} rtj间都是强相关的即对于任意 r t i , r t j r_{ti},r_{tj} rti,rtj ρ i j 1 \rho_{ij}1 ρij1则有对于给定的 ε 0 \varepsilon 0 ε0 P [ ∣ 1 n ∑ k 1 n r t k − 1 n ∑ k 1 n E t k [ r t k ∣ H k ] ∣ ε ] ≤ D max ε 2 \mathbb{P}[|\frac{1}{n}\sum_{k1}^nr_{tk}-\frac{1}{n}\sum_{k1}^n\mathbb{E}_{tk}[r_{tk}|H_k]|\varepsilon]\leq \frac{D_{\max}}{\varepsilon^2} P[∣n1k1∑nrtk−n1k1∑nEtk[rtk∣Hk]∣ε]≤ε2Dmax 推论2 非独立随机变量若想要使得 大数定律成立即 1 n ∑ k 1 n r t k \frac{1}{n}\sum_{k1}^nr_{tk} n1∑k1nrtk依概率收敛到 1 n ∑ k 1 n E t k [ r t k ] \frac{1}{n}\sum_{k1}^n\mathbb{E}_{tk}[r_{tk}] n1∑k1nEtk[rtk],则需要使得 ∑ j ≠ i ρ i j o ( n ) \sum_{j\ne i}\rho_{ij}o(n) ∑jiρijo(n)或者 ∑ i 1 n ∑ j ≠ i ρ i j o ( n 2 ) \sum_{i1}^n\sum_{j\ne i}\rho_{ij}o(n^2) ∑i1n∑jiρijo(n2) 。
即对于任意一个随机变量 r t i r_{ti} rti而言其同其他随机变量 r t j r_{tj} rtj的相关程度之和应该大于 n n n的线性增加。例如随着 n n n的增加 r t i r_{ti} rti永远只有和其有限个 m m m的 r t i − 1 , r t i − 2 , . . . r t i − m r_{ti-1},r_{ti-2},...r_{ti-m} rti−1,rti−2,...rti−m相关则此时大数定律依然成立。 推论3 若对于任意 ρ i j , i ≠ j \rho_{ij},i\ne j ρij,ij ∣ ρ i j ∣ ρ ≤ 1 |\rho_{ij}|\rho\leq1 ∣ρij∣ρ≤1,则可以得到 P [ ∣ 1 n ∑ k 1 n r t k − 1 n ∑ k 1 n E t k [ r t k ∣ H k ] ∣ ε ] ≤ D max ∣ ρ ∣ ε 2 D max ( 1 − ∣ ρ ∣ ) n ε 2 \mathbb{P}[|\frac{1}{n}\sum_{k1}^nr_{tk}-\frac{1}{n}\sum_{k1}^n\mathbb{E}_{tk}[r_{tk}|H_k]|\varepsilon]\leq \frac{D_{\max}|\rho|}{\varepsilon^2}\frac{D_{\max}(1-|\rho|)}{n\varepsilon^2} P[∣n1k1∑nrtk−n1k1∑nEtk[rtk∣Hk]∣ε]≤ε2Dmax∣ρ∣nε2Dmax(1−∣ρ∣) 进一步可以由极限的保号性可以得到: lim n → ∞ P [ ∣ 1 n ∑ k 1 n r t k − 1 n ∑ k 1 n E t k [ r t k ∣ H k ] ∣ ε ] ≤ D max ∣ ρ ∣ ε 2 \lim_{n\rightarrow \infty} \mathbb{P}[|\frac{1}{n}\sum_{k1}^nr_{tk}-\frac{1}{n}\sum_{k1}^n\mathbb{E}_{tk}[r_{tk}|H_k]|\varepsilon]\leq\frac{D_{\max}|\rho|}{\varepsilon^2} n→∞limP[∣n1k1∑nrtk−n1k1∑nEtk[rtk∣Hk]∣ε]≤ε2Dmax∣ρ∣ Proof设 a n P [ ∣ 1 n ∑ k 1 n r t k − 1 n ∑ k 1 n E t k [ r t k ∣ H k ] ∣ a_n \mathbb{P}[|\frac{1}{n}\sum_{k1}^nr_{tk}-\frac{1}{n}\sum_{k1}^n\mathbb{E}_{tk}[r_{tk}|H_k]| anP[∣n1∑k1nrtk−n1∑k1nEtk[rtk∣Hk]∣设 lim n → ∞ a n c 1 \lim_{n\rightarrow \infty} a_n c_1 limn→∞anc1 b n D max ∣ ρ ∣ ε 2 D max ( 1 − ∣ ρ ∣ ) n ε 2 b_n\frac{D_{\max}|\rho|}{\varepsilon^2}\frac{D_{\max}(1-|\rho|)}{n\varepsilon^2} bnε2Dmax∣ρ∣nε2Dmax(1−∣ρ∣),令 c 2 D max ∣ ρ ∣ ε 2 c_2\frac{D_{\max}|\rho|}{\varepsilon^2} c2ε2Dmax∣ρ∣,则 lim n → ∞ b n c 2 \lim_{n\rightarrow \infty} b_n c_2 limn→∞bnc2由假设可知 a n ≤ b n a_n\leq b_n an≤bn恒成立。待证明 c 1 ≤ c 2 c_1\leq c_2 c1≤c2,下面采用反证法证明 不妨设 c 1 c 2 c_1 c_2 c1c2,则有 lim n → ∞ ( a n − b n ) c 1 − c 2 0 \lim_{n\rightarrow \infty}(a_n-b_n)c_1-c_20 n→∞lim(an−bn)c1−c20由极限的保号性 ∃ N \exists N ∃N,当 n N nN nN时有 a n − b n 0 a_n-b_n0 an−bn0即 a n b n a_nb_n anbn然而这与条件 a n ≤ b n a_n\leq b_n an≤bn恒成立矛盾因此得证 c 1 ≤ c 2 c_1\leq c_2 c1≤c2。
问题 所以目前一个重要的问题是 ρ i j \rho_{ij} ρij如何进行估计