Mathématiques du traitement du signal : formules

Un livre de Wikibooks.

Ce formulaire regroupe des formules utiles.

Sections

[modifier] Inégalités

Un poly de référence : Concentration-of-measure inequalities, Gabor Lugosi.

[modifier] Inégalité de Bienaymé-Tchebychev

\mathbf{P}\left( ||x-m||\geq t \sigma\right) \leq 1/t^2

Une démonstration de 1937 :

Bienayme-tchebychev.png

[modifier] Inégalité de Markov

Soit X une varianle aléatoire et t un réel :

\mathbf{P}(X\geq t) \leq {1\over t}\mathbf{E}(X)

Markov.jpg

On peut en déduire que pour toute fonction φ mesurable monotone croissante à valeurs positives :

\mathbf{P}(X\geq t) \leq {\mathbf{E}(\phi(X)) \over \phi(t)}

ce qui permet d'obtenir une généralisation de Chebychev (citée dans Concentration-of-measure inequalities, Lecture notes by Gabor Lugosi , March 7, 2005):

\mathbf{P}(|X - \mathbf{E}(X)| \geq t) \leq {\mathbf{E}(|X - \mathbf{E}(X)|^q \over t^q}

[modifier] Le log itéré

[modifier] Inégalité de Bonferroni

voir mathworld.wolfram.

P(\cup_i E_i) \leq \sum_i P(E_i)

[modifier] Inégalité de Chernoff

Soit (X_n)_{1\leq n\leq N} des réalisations d'une même variable aléatoire de variance σ2. SN la somme de ces N réalisations ; i.e. S_N = \sum_{n=1}^N X_n

Alors, pour tout 0\leq k\leq 2\sigma, on a:

P(|S_N|\geq k \sigma)\leq 2 e^{-k^2/4N^2}

Chernoff.png

[modifier] Inégalité d'Efron-Stein

Soit (X_n)_{1\leq n\leq N}, (X'_n)_{1\leq n\leq N} 2N réalisations i.i.d. d'une variable aléatoire réelle et f:{I\!\! R}^N\mapsto {I\!\! R} une fonction mesurable. On note :

Z=f(X_1,\ldots,X_N), Z^{(i)}=f(X_1,\ldots,X_{i-1},X'_i,X_{i+1},\ldots,X_N)

Alors:

\mathbf{V}(Z)\leq {1\over 2}\, \mathbf{E}\left[ \sum_{i=1}^N (Z-Z^{(i)})^2 \right]

Cité par : Concentration inequalities using the entropy method, BOUCHERON, S., LUGOSI, G., MASSART, P. (2003), Ann. of Probability 31 n°3, 1583-1614.

et en notant \mathbf{E}_i(Z)=\mathbf{E}(Z|X_i,\ldots,X_{i-1},X_{i+1},\ldots,X_n):

\mathbf{V}(Z^{(i)})\leq \mathbf{E}\left[ \sum_{i=1}^N (Z^{(i)} - \mathbf{E}_i(Z) )^2 \right]


Cité par An application of the Efron-Stein inequality in density estimation, Luc Devroye, Annals of Statistics, vol. 15, pp. 1317-1320, 1987.

Elle est utilisée par exemple pour obtenir les résultats du Bootstrap et Jackknife The Jackknife and Bootstrap, by Jun Shao, p28.

[modifier] Inégalité de Kolmogorov

Soit (X_n)_{1\leq n\leq \infty} des réalisations i.i.d. d'une même variable aléatoire d'espérance nulle. SN la somme de ces N réalisations ; i.e. S_N = \sum_{n=1}^N X_n

Alors, pour tout λ > 0 :

\mathbf{P}\left( \max_{1\leq k\leq n} |S_k| \geq \lambda \right) \leq {1\over \lambda^2} \mathbf{V}(S_n)

Kolmogorov conference picture.jpg

cf PlanetMath.org

[modifier] Inégalité de Vapink Chervonenkis

[modifier] Inégalité de Burkholder-Rosenthal

[modifier] Approximations

[modifier] Distribution Gaussienne

Il y a dans Hull (Options, Futures and Other Derivatives, Fifth Edition ; John C. Hull), page 248, une approximation de la fonction de répartition d'une distribution gaussienne assez pratique : \forall x\geq ,\, N(x)=1-M(x)\sum_{i=1}^5 a_i k(x)^i et \forall x<0,\, N(x)= 1-N(-x) ; avec :

k(x) = \frac{1}{1+\gamma x},\, \gamma=0.2316419

a_1=0.319381530,\, a_2=-0.356563782,\, a_3=1.781477937

a_4=-1.821255978,\, a_5=1.330274429

M(x)=\frac{1}{\sqrt{2\pi}}\, e^{-x^2/2}

Récupérée de « http://fr.wikibooks.org/wiki/Math%C3%A9matiques_du_traitement_du_signal_:_formules »