El mètode de Laplace

En matemàtiques, el mètode de Laplace, que rep el nom de Pierre-Simon Laplace, és una tècnica utilitzada per aproximar integrals de la forma [1]

f ( x ) = sin ( x ) x {\displaystyle f(x)={\tfrac {\sin(x)}{x}}} té un màxim global a 0. e M f ( x ) {\displaystyle e^{Mf(x)}} es mostra a la part superior per a M = 0,5, i a la part inferior per a M = 3 (tots dos en blau). A mesura que M creix, l'aproximació d'aquesta funció per una funció gaussiana (mostrada en vermell) millora. Aquesta observació és la base del mètode de Laplace.

a b e M f ( x ) d x , {\displaystyle \int _{a}^{b}e^{Mf(x)}\,dx,}

on f ( x ) {\displaystyle f(x)} és una funció diferenciable dues vegades, M és un nombre gran i els extrems a i b possiblement poden ser infinits. Aquesta tècnica es va presentar originalment a Laplace (1774).

En l'estadística bayesiana, l'aproximació de Laplace pot referir-se a l'aproximació de la constant de normalització posterior amb el mètode de Laplace [2] o a l'aproximació de la distribució posterior amb un gaussià centrat en l'estimació a posteriori màxima.[3] Les aproximacions de Laplace tenen un paper central en el mètode integrat d'aproximacions de Laplace imbricades per a una inferència bayesiana aproximada ràpida.[4]

La idea del mètode de Laplace

Suposem la funció f ( x ) {\displaystyle f(x)} té un màxim global únic a x0. Deixar M > 0 {\displaystyle M>0} sigui una constant i consideri les dues funcions següents:

g ( x ) = M f ( x ) h ( x ) = e M f ( x ) {\displaystyle {\begin{aligned}g(x)&=Mf(x)\\h(x)&=e^{Mf(x)}\end{aligned}}}

Tingueu en compte que x 0 serà el màxim global de g {\displaystyle g} i h {\displaystyle h} també. Ara observeu:

g ( x 0 ) g ( x ) = M f ( x 0 ) M f ( x ) = f ( x 0 ) f ( x ) h ( x 0 ) h ( x ) = e M f ( x 0 ) e M f ( x ) = e M ( f ( x 0 ) f ( x ) ) {\displaystyle {\begin{aligned}{\frac {g(x_{0})}{g(x)}}&={\frac {Mf(x_{0})}{Mf(x)}}={\frac {f(x_{0})}{f(x)}}\\[4pt]{\frac {h(x_{0})}{h(x)}}&={\frac {e^{Mf(x_{0})}}{e^{Mf(x)}}}=e^{M(f(x_{0})-f(x))}\end{aligned}}}

A mesura que M augmenta, la relació per h {\displaystyle h} creixerà exponencialment, mentre que la proporció per g {\displaystyle g} no canvia. Així, les contribucions significatives a la integral d'aquesta funció vindran només dels punts x en un entorn de x0, que després es poden estimar.

Teoria general del mètode de Laplace

Per afirmar i motivar el mètode, necessitem diverses hipòtesis. Suposarem que x0 no és un punt final de l'interval d'integració, que els valors f ( x ) {\displaystyle f(x)} no pot estar molt a prop f ( x 0 ) {\displaystyle f(x_{0})} tret que x sigui proper a x0.

Ens podem ampliar f ( x ) {\displaystyle f(x)} al voltant de x0 pel teorema de Taylor,

f ( x ) = f ( x 0 ) + f ( x 0 ) ( x x 0 ) + 1 2 f ( x 0 ) ( x x 0 ) 2 + R {\displaystyle f(x)=f(x_{0})+f'(x_{0})(x-x_{0})+{\frac {1}{2}}f''(x_{0})(x-x_{0})^{2}+R}

on R = O ( ( x x 0 ) 3 ) {\displaystyle R=O\left((x-x_{0})^{3}\right)} (vegeu: notació O gran).

Des que f {\displaystyle f} té un màxim global a x 0, i com que x 0 no és un punt final, és un punt estacionari, és a dir f ( x 0 ) = 0 {\displaystyle f'(x_{0})=0} . Per tant, el polinomi de Taylor de segon ordre s'aproxima f ( x ) {\displaystyle f(x)} és

f ( x ) f ( x 0 ) + 1 2 f ( x 0 ) ( x x 0 ) 2 {\displaystyle f(x)\approx f(x_{0})+{\frac {1}{2}}f''(x_{0})(x-x_{0})^{2}}

Aleshores només necessitem un pas més per obtenir la nostra distribució gaussiana. Des que x 0 {\displaystyle x_{0}} és un màxim global de la funció f {\displaystyle f} podem dir, per definició de la segona derivada, que f ( x 0 ) < 0 {\displaystyle f''(x_{0})<0} , que ens permet escriure

f ( x ) f ( x 0 ) 1 2 | f ( x 0 ) | ( x x 0 ) 2 {\displaystyle f(x)\approx f(x_{0})-{\frac {1}{2}}|f''(x_{0})|(x-x_{0})^{2}}

per x proper a x0. Aleshores la integral es pot aproximar amb:

a b e M f ( x ) d x e M f ( x 0 ) a b e 1 2 M | f ( x 0 ) | ( x x 0 ) 2 d x {\displaystyle \int _{a}^{b}e^{Mf(x)}\,dx\approx e^{Mf(x_{0})}\int _{a}^{b}e^{-{\frac {1}{2}}M|f''(x_{0})|(x-x_{0})^{2}}\,dx}

(vegeu la imatge de la dreta). Aquesta darrera integral és una integral gaussiana si els límits d'integració van de −∞ a +∞ (cosa que es pot suposar perquè l'exponencial decau molt ràpidament lluny de x0), i així es pot calcular. Trobem

a b e M f ( x ) d x 2 π M | f ( x 0 ) | e M f ( x 0 )  quan  M . {\displaystyle \int _{a}^{b}e^{Mf(x)}\,dx\approx {\sqrt {\frac {2\pi }{M|f''(x_{0})|}}}e^{Mf(x_{0})}{\text{ quan }}M\to \infty .}

Referències

  1. «Laplace’s Method of Integration» (en anglès). [Consulta: 18 febrer 2024].
  2. Tierney, Luke; Kadane, Joseph B. J. Amer. Statist. Assoc., 81, 1986, pàg. 82–86. DOI: 10.1080/01621459.1986.10478240.
  3. Amaral Turkman, M. Antónia. «Methods Based on Analytic Approximations». A: Computational Bayesian Statistics: An Introduction (en anglès). Cambridge University Press, 2019, p. 150–171. ISBN 978-1-108-70374-1. 
  4. «laplace’s method for integrals» (en anglès). [Consulta: 18 febrer 2024].