3.6 Momentos exponenciais

Nessa seção desenvolveremos uma outra técnica para estimar a probabilidade de uma variável aleatória se desviar de sua esperança.

Já vimos o método do primeiro, segundo e quarto momento para controlar uma soma de variáveis independentes. Um exemplo disso foi visto na estimativa

P\Big{[}\sum_{i=1}^{n}(X_{i}-E(X_{i}))\geq a\Big{]}\leq\frac{\sum_{i}\Var(X_{i% })}{a^{2}}.

(3.68)

Em geral, quanto maior o momento, melhor a estimativa do decaimento para a probabilidade de que uma variável se desvie de sua esperança. Nessa seção iremos para momentos exponenciais, que em um certo sentido produzem estimativas ótimas para o comportamento assintótico da probabilidade de desvio.

Note que se quisermos uma pequena probabilidade de erro (como por exemplo $\sim 0.01$ ), o método do segundo momento é muito bom, como veremos posteriormente. Mas se quisermos uma probabilidade de erro minúscula (em situações concretas, algo como $10^{-12}$ por exemplo), certamente teremos que aumentar bastante o valor de $n$ , mas quanto? As cotas de segundo momento são muito ruins para esse tipo de estimativa, nos levando a escolher um $n$ maior que o necessário. Abaixo, desenvolveremos um método mais eficiente para responder a essa pergunta, obviamente sob certas hipóteses na distribuição das variáveis aleatórias.

{definition}

Dada uma variável aleatória $X$ , definimos sua transformada de Laplace como

\phi_{X}(s)=E(\ex{sX})\in(0,\infty],

(3.69)

para todos $s\in\mathbb{R}$ . Essa transformada também é chamada função geradora de momentos de $X$ .

{exercise}

Calcule a função geradora de momentos das distribuições $\Ber(p)$ , $\Exp(\lambda)$ e $U_{[0,1]}$ .

{proposition}

Se $E(\ex{\delta|X|})<\infty$ , então

a)

$X\in\mathcal{L}^{p}$ para todo $1\leq p<\infty$ ,
b)

$\phi_{X}(s)<\infty$ para todo $s\in(-\delta,\delta)$ ,
c)

$\phi_{X}(s)$ é $C^{\infty}$ em $(-\delta,\delta)$ e
d)

$\phi_{X}^{(n)}(s)=E(X^{n}\ex{sX})$ .

A última conclusão da proposição acima justifica a nomenclatura função geradora de momentos pois $\phi_{X}^{(n)}(0)=E(X^{n})$ .

Demonstração.

Obviamente, para todo $p\geq 1$ existe $c>0$ tal que $\ex{\delta|x|}\geq c|x|^{p}$ , donde $X\in\mathcal{L}^{p}$ . Além disso, para todo $s\in(-\delta,\delta)$ , temos $\phi_{X}(s)=E(\ex{sX})\leq E(\ex{\delta|X|})<\infty$ , donde 2. segue imediatamente.

Fixando $s\in\mathbb{R}$ , vamos agora calcular

\frac{\phi_{X}(s+h)-\phi_{X}(s)}{h}=\frac{E\big{(}\ex{(s+h)X}-\ex{sX}\big{)}}{% h}=E\Big{(}\ex{sX}\frac{\ex{hX}-1}{h}\Big{)}.

(3.70)

Lembrando que $|\tfrac{1}{y}(e^{y}-1)|\leq e^{|y|}$ , para todo $y\in\mathbb{R}$ , temos que para todos os $h<(\delta-|s|)/2$ , o integrando acima é dominado por $|X|\ex{(|s|+h)|X|}\leq|X|\ex{\smash{\tfrac{\delta+|s|}{2}|X|}}$ que pertence a $\mathcal{L}^{1}$ . Logo podemos usar o Teorema da Convergência Dominada para trocar o limite $h\to 0$ com a esperança, obtendo

\phi_{X}^{\prime}(s)=E(X\ex{sX}).

(3.71)

Note que para todo $\varepsilon>0$ e $k\geq 1$ , $|x|^{k}\leq c(k)\ex{\varepsilon|x|}$ , isso nos permite repetir o argumento acima indutivamente para obter c) e d). ∎

Lembramos que ao usar o método do segundo momento, nos foi bastante útil o fato que a variância se comporta bem com relação a somas independentes. Mais precisamente, $\Var(X_{1}+\dots+X_{k})=\Var(X_{1})+\dots+\Var(X_{k})$ .

Uma outra propriedade importante da função geradora de momentos é que ela também se comporta bem com respeito à somas independentes. {proposition} Se $X_{1},\dots,X_{n}$ são variáveis independentes com $\phi_{X_{i}}(s)<\infty$ para todo $i\leq k$ e $|s|<\delta$ , então

\phi_{X_{1}+\dots+X_{k}}(s)=\phi_{X_{1}}(s)\dotsm\phi_{X_{k}}(s),\text{ para % todos $|s|<\delta$.}

(3.72)

Demonstração.

Basta observar que

\begin{split}E(\exp&\{s(X_{1}+\dots+X_{k})\})=E(\ex{sX_{1}}\dotsm\ex{sX_{k}}))% \\ &=E\big{(}\ex{sX_{1}})\dotsm E(\ex{sX_{k}}\big{)}=\phi_{X_{1}}(s)\dotsm\phi_{X% _{k}}(s),\end{split}

(3.73)

usando Fubini. ∎

Consideraremos agora uma sequência $X_{1},X_{2},\dots$ de variáveis \iidcom $\phi_{X_{1}}(s)<\infty$ para $|s|<\delta$ . Então podemos tentar estimar, para $a>0$ e $|s|<\delta$ ,

\begin{split}P\Big{[}&\frac{X_{1}+\dots+X_{n}}{n}-E(X_{1})\geq a\Big{]}=P\Big{% [}X_{1}+\dots+X_{n}\geq(a+E(X_{1}))n\Big{]}\\ &\quad=P\Big{[}\ex{s(X_{1}+\dots+X_{n})}\geq\ex{s(a+E(X_{1}))n}\Big{]}\\ &\quad\leq\phi_{X_{1}+\dots+X_{n}}(s)\ex{-s(a+E(X_{1}))n}=\phi_{X_{1}}^{n}(s)% \ex{-s(a+E(X_{1}))n}.\end{split}

O primeiro fator na estimativa acima pode crescer exponencialmente com $n$ , enquanto o segundo decresce. Gostaríamos que o comportamento do segundo predominasse, o que podemos concluir do seguinte argumento.

Sabemos que $\phi_{X_{1}}(s)$ é diferenciável em zero e que $\phi^{\prime}_{X_{1}}(0)=E(X_{1})$ . Logo, existe $s>0$ tal que $\phi_{X_{1}}(s)<1+(E(X_{1})+\tfrac{a}{2})s$ , donde

\begin{split}P\Big{[}&\frac{X_{1}+\dots+X_{n}}{n}-E(X_{1})\geq a\Big{]}\leq% \phi_{X_{1}}^{n}(s)\ex{-s(a+E(X_{1}))n}\\ &\quad\leq\big{(}1+(E(X_{1})+\frac{a}{2})s\big{)}^{n}\ex{-s(E(X_{1})+a)n}\\ &\quad\leq\exp\Big{\{}s\Big{(}E(X_{1}+\frac{a}{2}-E(X_{1})-a)n\Big{)}\Big{\}}=% \ex{-san/2}.\end{split}

Isso nos garante um decaimento exponencial da probabilidade da média dos $X_{i}$ se desviar da esperança.

{exercise}

Aplique o método acima para variáveis $X_{i}$ \iidcom distribuição $\Ber(1/2)$ e encontre $s(a)$ que otimize o decaimento da probabilidade $P\big{[}\sum_{i=1}^{n}X_{i}>(1/2+a)n\big{]}$ .

Poderíamos nos perguntar se a cota acima é suficientemente boa. Talvez pudéssemos esperar um decaimento ainda melhor que exponencial. Para responder a essa pergunta, vamos considerar o seguinte exemplo. Sejam $(X_{i})_{i\geq 1}$ variáveis \iidcom $X_{1}\distr\Ber(1/2)$ . Nesse caso temos por exemplo

P\Big{[}\big{|}\frac{X_{1}+\dots+X_{n}}{n}-\frac{1}{2}\big{|}\geq\frac{1}{4}% \Big{]}\geq P[X_{i}=1,\forall i\leq n]=2^{-n}.

(3.74)

Dessa forma, sabemos que não podemos esperar um decaimento melhor que exponencial, mesmo para variáveis bem simples (como Bernoulli) que satisfazem $\phi_{X}(s)<\infty$ para todo $s\in\mathbb{R}$ .

Note que para variáveis com distribuição $\Ber(1/2)$ , obtivemos acima cotas exponenciais em $n$ (superior e inferior), mas elas possuem expoentes diferentes. Resta agora tentar entender qual é o expoente correto para o decaimento da probabilidade $P[X_{1}+\dots+X_{n}\geq n(E(X_{1})+a)]$ , o que será feito na próxima seção.

\todosec

Tópico: Processos de ramificaçãofazer…