Eötvös Loránd Tudományegyetem Természettudományi Kr Sipos Nikolett A Monte Crlo szimulációk gykorlti lklmzási BSc szkdolgozt Alklmzott mtemtikus szkirány Témvezet : Kovács Péter Numerikus Anlízis Tnszék Budpest, 2016.
Köszönetnyilvánítás Els sorbn szeretném megköszönni témvezet mnek, Kovács Péternek, hogy elválllt konzulensi teend ket. Köszönöm, hogy szkdolgozt írás során számos észrevétellel és tnáccsl segítette munkámt, mindig türelmesen elmgyrázt foglmkt, tételeket és ngyon sok id t fordított dolgoztom lpos átnézésére. Továbbá szeretném megköszönni brátimnk sok támogtást és érdekl dést témávl kpcsoltbn. Külön köszönettel trtozom sok bizttásért Réti Attilánk, ki z els oldltól z utolsóig nyomon követte dolgoztom lkulását. 1
Trtlomjegyzék 1. Bevezetés 4 1.1. El szó................................... 4 1.2. Szimulációk................................ 5 2. Numerikus integrálás 6 2.1. Motiváció................................. 6 2.2. Kvdrtúr formulák........................... 8 2.3. Áltlános konvergencitételek...................... 8 3. Alklmzás numerikus integrálásr 12 3.1. Vlószín ségszámítási áttekintés..................... 13 3.2. Monte Crlo integrálok kiszámítás................... 17 3.3. Példák Monte Crlo integrálásr..................... 20 3.4. A Monte Crlo integrálás hibáj..................... 26 4. Szóráscsökkent eljárások 29 4.1. A f rész leválsztás........................... 29 4.2. Az integrációs trtomány részekre bontás............... 30 4.3. Dimenziócsökkentés............................ 31 4.4. A s r ségfüggvény optimális megválsztás............... 32 4.5. Az integrndus szimmetrikussá tétele.................. 33 5. Kitekintés 37 5.1. Véletlen szám generálási technikák................... 37 5.2. Egyéb lklmzások............................ 41 2
Jelölések Jelölés dp f ξ, X, Y, Z s G P n f C[, b] A B(X, Y) (n) j Θ X N r(x) D(f) S n p Mgyrázt dxdy sup x [,b] f(x) Vlószín ségi változók A G trtomány területe A legfeljebb n-edfokú polinomok tere f: [, b] R folytonos függvény A: X Y folytonos lineáris operátor l(n) j, hol l (n) j n lppontr illesztett Lgrnge interpolációs polinom prmétertér, legtöbbször véges dimenziós euklideszi tér részhlmz X N sztochsztikus értelemben konvergál -hoz hibtg f értelmezési trtomány n. részletösszeg (sor, bolyongás) 3
1. fejezet Bevezetés 1.1. El szó A dolgoztombn Monte Crlo szimulációk különféle gykorlti lklmzásit muttom be. Gykorltbn elterjedt, hogy szimulációt hsználják egyes mtemtiki, ziki, illetve gzdsági számítások modellezésére. A dolgoztombn ezek vlószín ségszámítási, sttisztiki, vlmint numerikus nlízisbeli hátterével fogllkozunk. A második fejezetben integrálszámítássl kpcsoltos lklmzhtóságát vizsgáljuk, összehsonlítv z nlízisb l, illetve numerikus nlízisb l tnult módszerekkel. A második fejezetben példákon keresztül röviden áttekintjük numerikus integrálás konvencionális módszereit. Ezt fogjuk összevetni hrmdik fejezetben Monte Crlo módszer eredményeivel és hibképleteivel. Mjd 4. fejezetben Monte Crlo integrálás htékonyságát fogjuk vizsgálni. Fontos megemlíteni, hogy Monte Crlo módszer véletlenszer mintvételen lpul, zz pl. véletlenszer en kell kiválsztnunk számokt egy megdott trtományból, mikor egy integrálási feldtot szeretnénk elvégezni. Azonbn tudjuk, hogy véletlen számok számítógépes generálás sem nnyir véletlenszer, mindegyik mögött felfedezhet egy-egy lgoritmus. Ezzel kpcsoltosn szó lesz z ötödik fejezetben véletlen szám generátorokról, zok m ködésér l. A Monte Crlo szimulációbn összehsonlítjuk z eredményeket, miket z egyes véletlen szám generátorok áltl kpott mintából megismerhetünk. Végül kitérünk Monte Crlo szimuláció gzdsági folymtokbn történ lklmzásár. 4
1.2. Szimulációk A szimulációk olyn vizsgálti módszert jelentenek, melyek egy folymt, illetve rendszer viselkedését, várhtó kimenetelét vizsgálják. A szimuláció egy bsztrkt, mtemtikilg deniált modellt hsznál, hogy vizsgálj rendszer m ködését. Azz egy lgoritmus lépéseit követve szolgáltt dtokt, illetve mintát. A szimulációk célj, hogy folymtokt vlóságh en modellezzük és ki tudjuk értékelni z állpotváltozásokt, illetve mintákt sttisztikilg össze tudjuk hsonlítni. A Monte Crlo módszer (röviden MC módszer) egy speciális szimulációs módszer, mellyel vlószín ségszámítás és sttisztik elemeit hívjuk segítségül, mjd numerikusn értékeljük ki kpott eredményeket. A módszer lényegében véletlenszer mintvételen lpul, mellyel elég ngy elem mint esetén meg tudunk becsülni htározott integrálokt, egyes kockázti fktorok (pl. kockázttott érték: VR) becslésére is lklmzhtó gzdsági életben, vlmint számos becsléshez (pl. π közelítésére) is felhsználhtó szimuláció. Az 1.1 ábrán 10, 50, 100 és 1000 pont beszórásávl futttm szimulációt, hogy közelítse z (0,5; 0,5) középpontú 0,5 cm sugrú kör területét és hibát is számolj. 0.8 0.6 0.4 0.2 Terület (10 pont): 0.7cm 2 Hib: 0.085398 0 0.5 1 Terület (100 pont): 0.83cm 2 Hib: 0.044602 0.8 0.6 0.4 0.2 0 0.5 1 0.8 0.6 0.4 0.2 Terület (50 pont): 0.82cm 2 Hib: 0.034602 0 0.5 1 Terület (1000 pont): 0.775cm 2 Hib: 0.010398 0.8 0.6 0.4 0.2 0 0.5 1 1.1. ábr. Monte Crlo szimuláció 0,5 cm sugrú kör területének kiszámításár 5
2. fejezet Numerikus integrálás A gykorlti életben sokszor el fordul, hogy egy htározott integrál esetén nem tudjuk z nlízisb l tnult módon kiszámolni z eredményt. Gondoljunk pl. egy olyn függvényre, melynek nem létezik primitív függvénye. Ekkor z integrált numerikus módszerekkel próbáljuk közelíteni. 2.1. Motiváció Olyn htározott integrálok kiszámítását fogjuk megnézni, hol számítógép áltl számolt numerikus közelítés nem konvergens vgy nem optimális. Els péld 1 0 e x2 dx integrált szeretnénk kiszámítni, 10 6 pontossággl. Mivel függvénynek nem létezik primitív függvénye, nem tudjuk lklmzni Newton- Leibniz formulát, ezért szeretnénk egy másik módszert lklmzni. Anlízisb l ismeretes, hogy e x htványsorb fejthet 0 körül, konvergencitrtomány végtelen és e x = x k k=0 lkbn felírhtó. Ehhez hsonlón htványsorb tudjuk fejteni z e x2 k! függvényt is. Azz felírv z els öt tgot, kpjuk, hogy: hol r(x) hibtg. e x2 = ( x 2 ) k k=0 k! = 1 x2 1 + x4 2! x6 3! + x8 4! + r(x), 6
Ekkor z integrált következ képp közelítjük: I = 1 0 e x2 dx = 1 0 1dx 1 0 x 2 1 1 dx + x 4 1 0 2 dx x 6 0 6 dx + = 1 1 3 + 1 10 1 42 + R(x) = k=0 1 ( 1) k (2 k + 1) k! 0 r(x)dx = Szintén ismeretes, hogy ez htványsor egy Leibniz típusú sor, így konvergens, mi- 1 vel n = és lim (2 k+1) k! n n = 0. Ekkor úgy kell megválsztnunk n-et, hogy I n k=0 ( 1)k 1 10 6 teljesüljön. (2 k+1) k! A Leibniz típusú htványsorok konvergencisebességét le tudjuk vezetni következ képpen: Ebb l következik, hogy: S 2 n 1 I S 2 n. S 2 n 1 I S 2 n S 2 n 1 = 2 n és S 2 n I S 2 n S 2 n 1 = 2 n. Így közelítés hibájár z lábbi becslést kpjuk: Második péld S n I n = 1 (2 k + 1) k! 10 6 Az feldtunk, hogy kiszámoljuk z 1 cos(x)dx integrált. A Newton-Leibniz formulából zonnl dódik 0 megoldás: 1 0 cos(x)dx = sin(1) Ezt viszont számítógép szintén htványsorból fogj közelíteni. A htványsorb fejtett függvény zonbn nem mindig konvergens és sokszor konvergencisebesség sem optimális számunkr. A numerikus integrálás lpötlete, hogy függvények közelítésére hsznált interpolációs polinomokt (Lgrnge vgy Hermite interpolációs polinom) hsználjuk z integrálndó függvény közelítésére. Kérdés, hogy ez z integrálnk is közelítése-e? 7
2.2. Kvdrtúr formulák 2.2.1. Deníció (Kvdrtúr formul). Legyen f C[, b] R. Tegyük fel, hogy L n P n, hol L n z f függvény Lgrnge interpolációs polinomj z = x 0 < x 1 <... < x n = b lppontokon, hol i = l i(x)dx Ekkor z lábbi formulát interpolációs kvdrtúr formulánk nevezzük: I(f) = f(x)dx L n (x)dx = n f(x i ) l i (x)dx = i=0 n f(x i ) i = I n (f) (2.1) i=0 2.3. Áltlános konvergencitételek Ebben részben meg fogjuk nézni, hogy z interpolációs típusú kvdrtúr formulákkl kpott közelítés vlóságbn is függvény integráljához konvergál-e. Tehát z kérdés, hogyh növeljük z illesztett polinom fokszámát, kkor kvdrtúr formulávl kpott becslés trtni fog-e z eredeti integrálhoz. Megsejthetjük polinomillesztés kpcsán, hogy nem mindig lesz igz fenti állítás. Gondoljuk pl. rr z esetre, mikor z interpolációs polinom sem trt z eredeti függvényhez (Fber, Mrczinkiewicz tétel), ekkor kvdrtúr formulávl felírt közelítés sem fog függvény integráljához trtni. Azonbn bizonyos feltételek mellett grntálni lehet, hogy polinom integrálj is trtson z interpolált függvény integráljához. Ahhoz, hogy belássuk konvergenciát, szükségünk lesz néhány tételre, melyek lklmzásávl el fogunk jutni ddig, hogy kvdrtúr formulák legfeljebb n-edfokú polinomokr pontosk. Ennek megfelel en z [1] jegyzet lpján áttekintjük kpcsolódó elméletet. 2.3.1. Deníció (Norm). Legyen X vektortér K felett, hol K = C vgy K = R. Egy. : X R + függvényt normánk nevezünk, h teljesíti z lábbi normxiómákt: i.) minden x X esetén x 0, és x = 0 x = 0, ii.) minden λ K és x X esetén λ x = λ x, iii.) minden x, y X esetén x + y x + y (háromszög egyenl tlenség). Ekkor (X,. ) párt normált térnek nevezzük. 2.3.2. Deníció (Bnch-tér). Egy normált teret Bnch-térnek, nevezünk, h teljes, zz h minden Cuchy sorozt konvergens. 8
2.3.3. Deníció (Lineáris funkcionál). Az A : X K lineáris leképezéseket lineáris funkcionáloknk nevezzük. 2.3.4. Deníció (Korlátos leképezés). Egy A : X Y lineáris leképezést korlátosnk nevezünk, h létezik olyn M 0 állndó, hogy: Ax M x x D(A). (2.2) 2.3.5. Tétel. Egy lineáris leképezés pontosn kkor folytonos, h korlátos. 2.3.6. Deníció (Operátornorm). H A B(X, Y), kkor legyen z A úgynevezett operátornormáj, vgy normáj. A := sup{ Ax : x X, x 1} (2.3) 2.3.7. Tétel. H A B(X, Y), hol X és Y normált terek és Ax C x x X, kkor A C. S t, A épp z ilyen C-k innumávl egyezik meg, zz A = inf C. H tehát C olyn, hogy lklms x 0 X-re Ax 0 = C x 0 és fennáll, hogy Ax C x, kkor A = C. Ebb l már speciálisn ki tudjuk számítni z integrál és kvdrtúr formul operátornormáját is. 2.3.8. Tétel (Integrál- és kvdrtúr formul operátornormáj). I és I n folytonos lineáris funkcionálok C[,b] Bnch-téren. Ekkor I = b és I n = n j=0 j. Bizonyítás. Az 2.3.7 tételt felhsználv kpjuk, hogy: I(f) = f(x)dx b f I b, és f 1 függvényt válsztv: I = b. Hsonlón beláthtó, hogy: n I n (f) = j f(x j ) j=0 háromszög egyenl tlenség mitt. n j f(x j ) j=0 n j f, j=0 9
Alklms f-re (z x 0, x 1,..., x n lppontokon sign( 0 ), sign( 1 ),..., sign( n )) értékekre illeszked, szkszonként els fokú polinomr z egyenl ség igz, mert f = 1 nyilvánvlón teljesül (eltekintve triviális 0 = 1 =... = n válsztástól). Ekkor: n I n (f) = j sign( j ) = j=0 n n j I n = j. j=0 j=0 2.3.9. Deníció (Pontonkénti- és egyenletes korlátosság). Legyenek X, Y normált terek. Egy (A n ) B(X, Y) operátorsorozt pontonként korlátos, h minden x X esetén (A n x) Y korlátos, illetve egyenletesen korlátos, h ( A n ) R korlátos számsorozt. 2.3.10. Tétel (Bnch-Steinhus tétel). Legyen X Bnch, Y normált tér, (A n ) B(X, Y). Ekkor sup n A n x < x X sup n A n <. Azz (A n ) pontosn kkor korlátos pontonként, h egyenletesen is. 2.3.11. Tétel. Legyen X Bnch-tér, Y normált tér, vlmint A n és A B(X, Y). A n x Ax x X, h: i.) A n pontonként (és egyenletesen is) korlátos, ii.) A n pontonként konvergens egy X-ben s r hlmzon. 2.3.12. Tétel (Weierstrss 1. pproximációs tétele). Legyen [, b] tetsz leges, zárt intervllum, hol, b R. Legyen f tetsz leges, [, b] intervllumon folytonos, vlós függvény. Ekkor ɛ > 0-hoz megdhtó egy olyn p P polinom, hogy f(x) p(x) < ɛ x [, b]-re. 2.3.13. Következmény (Póly-Szeg tétel). Speciálisn X := C[, b], Y := R, A n :=I n, M := P (Polinomok tere). Tudjuk, hogy P s r C[, b]-ben, Weierstrss 1. pproximációs tétele szerint. Így zt kpjuk, hogy z I n kvdrtúrsorozt pontosn kkor trt z I integrálhoz, h f C[, b] folytonos függvény esetén: i.) n j=0 (n) j C, lklms 0 C < mellett, n N-re, ii.) I n (p) I(p) p P polinomr. 2.3.14. Megjegyzés. A P trigonometrikus polinomokt is jelenthet (Weierstrss 2. pproximációs tétele lpján.) Így jutunk el z egyik legfontosbb következményig, miszerint kvdrtúr formulák legfeljebb n-edfokú polinomokr pontosk. 10
2.3.15. Következmény (Póly-Szeg tételének speciális esete). H i.) n j=0 (n) j C, zz I n egyenletesen korlátos, kkor I n pontos minden legfeljebb n-edfokú polinomr: I n (p) = I(p) p P n. Bizonyítás. Ekkor ugynis tetsz leges p P polinomr, minden elég ngy n mellett p P n, így I n (p) = I(p) I n (p) I(p) pontonként P-ben. Másik fontos következmény, mi kimondj, hogy legfeljebb n-edfokú polinomok esetén kvdrtúr formul operátor trt z integráloperátorhoz pontonként. 2.3.16. Következmény (Sztyeklov tétele). H i.) (n) j > 0 j, n N, ii.) I n pontos minden legfeljebb n-edfokú polinomr, kkor I n I pontonként C[, b]-n. Bizonyítás. Ekkor ugynis I n egyenletesen korlátos: I n = n j=0 (n) j = n j=0 (n) j = n j=0 (n) j 1 = 1dx = b, mert I n pontos z zonosn 1 függvényre, tetsz leges n N-re. 2.3.17. Megjegyzés. A tétel konvergencisebességr l semmit sem mond, így ezek tételek elméleti jelent sség ek. A numerikus integrálás jól hsználhtó lcsony dimenzióbn és kevés kiértékelés esetén. Azonbn mikor ngyobb dimenzióbn keressük z integrált, ugynhhoz pontossághoz kevesebb függvénykiértékelésre vn szükség, mint kvdrtúr formuláknál. Ekkor térünk át Monte Crlo integrálás lklmzásár. A Monte Crlo integrálás sikeresen lklmzhtó olyn esetekben is, mikor egy többdimenziós integrált szeretnénk számolni, de trtomány nem szbályos. A második fejezetben ennek z összehsonlítás következik. 11
3. fejezet Alklmzás numerikus integrálásr A Monte Crlo integrálás (röviden MC integrálás) egy olyn eljárás, mely során htározott integrálokt tudunk numerikus módszerek segítségével közelíteni. A numerikus nlízis egyik lpproblémáj numerikus integrálás, mely szinte minden tudományterületen megjelenik. A klsszikus numerikus integrálási módszerek, z integrációs típusú kvdrtúr formulák eredményesen hsználhtók lcsony dimenzióbn és z lppontok számánk növelésével közelítés hibáját is tetsz legesen kicsire csökkenthetjük. Ebben fejezetben z [3] és [4] jegyzet lpján átismételjük Monte Crlo módszert, mjd lklmzzuk függvények htározott integráljánk kiszámításár, mjd összevetjük két módszer pontosságát. 3.0.1. Tétel (A közelítés hibáj). e n (f) = f(x)dx n f(x i ) i. i=1 3.0.2. Megjegyzés (Speciális, interpolációs kvdrtúr formulák esetén hib). Az lábbi fels becslést írhtjuk fel: e n (f) M n+1 (n + 1)! ω n+1 (x) dx, hol M n+1 = sup x [,b] f (n+1) (x) = f (n+1), h f C n+1 [, b]. 3.0.3. Tétel. lim n e n (f) = 0, f C[, b], h sup n N n i=1 (n) i <. 12
3.0.4. Tétel (Elemi kvdrtúr formulák és hibformuláik). Nézzük z lábbi formulákt: Érint formul: h f C 2 [, b] és I 0 f = f ( +b 2 ) (b ) f(x) I 0 f 1 24 f(2) (b ) 3 Trpéz formul: h f C 2 [, b] és I 1 f = b 2 (f() + f(b)) f(x) I 1 f 1 12 f(2) (b ) 3 Simpson formul: h f C 4 [, b] és I 2 f = b ( f() + 4 f ( ) ) +b 6 2 + f(b) f(x) I 2 f 1 720 f(4) (b ) 5 3.0.5. Megjegyzés. A kvdrtúr formulák zonbn mgsbb dimenzióbn nem hsználhtók eredményesen, mert kiértékelések számávl exponenciálisn n lépések szám futttás során. Pl. hhoz, hogy 10 kiértékelést el tudjuk végezni 100 dimenzióbn, szükséges 10 100 lépés. Ez futttást lelssítj egy id után. Szintén problémát okoz, h trtomány, nem egymásb ágyzott integrálokból áll. 3.1. Vlószín ségszámítási áttekintés A Monte Crlo integrálás lpgondolt z, hogy egymástól független véletlenszer en megválsztott mintából közelítjük z integrált, mihez áltlábn egyenletes eloszlás szerint válsztunk pontokt, de léteznek más véletlenszám generátorok is, (Mersenne- Twister, lineáris kongruenci generátorok) melyekr l szó lesz kés bbi fejezetekben. El ször vezessünk be néhány lpvet foglmt, mire szükségünk lesz várhtó érték becsléséhez [7] és [8] jegyzetek lpján. 3.1.1. Deníció (Sttisztiki mez ). Az (Ω, A, P) hármst sttisztiki mez nek hívjuk, hol Ω nemüres hlmz (eseménytér), A egy σ-lgebr (események csládj), P pedig szób jöhet vlószín ségi mértékek csládj. Azz P={P ϑ ϑ Θ}, hol P ϑ vlószín ségi mértékek és Θ prmétertér. 3.1.2. Megjegyzés. A Monte Crlo integrálás bevezetése során Θ egy véges dimenziós euklideszi tér részhlmz, pl. Θ R k. 13
3.1.3. Deníció (N elem mint). Egy X=(X 1,..., X N ): Ω X R vlószín ségi változót (N elem ) mintánk nevezzük, hol X minttér, N pedig mint ngyság vgy elemszám, X i koordináták pedig mint elemei. 3.1.4. Tétel (Hincsin tétele). Legyen X 1, X 2,..., X N páronként független, zonos eloszlású, melyekre igz, hogy E(X i ) = < + és legyen X N = 1 N N i=1 X i. Ekkor fennáll, p hogy X N, h N zz limn P( X N ɛ) = 0, ɛ > 0. Tehát Hincsin tétele kimondj gyenge konvergenciát, h X 1,...X N -nek véges várhtó értéke, mi gyengébb feltétel, mint ngy számok gyenge törvényénél, ugynis nnk feltétele második momentum végessége. 3.1.5. Tétel (A várhtó érték becslése). Legyen X tetsz leges vlószín ségi változó, véges várhtó értékkel: E(X) =. Az prméter becslésére válsszuk X 1, X 2,..., X N független mintát és tekintsük X N = 1 N N i=1 X i átlgot. Ekkor Hincsin tétele szerint p, h N. H feltesszük, hogy szórás is létezik, zz, hogy: X N ekkor érvényes centrális htáreloszlás tétel: hol Ebb l következik, hogy: σ 2 = σ 2 (X) = E(X 2 ) (E(X)) 2 < +, (3.1) ( N lim P X N N σ Φ(x) = ) (x 1, x 2 ) = Φ(x 2 ) Φ(x 1 ), 1 x e t2 2 dt. (3.2) 2 π ( lim P X N < x σ ) =: H(x), N N H(x) = 2 x e t2 2 dt = 2 Φ(x) 1. (3.3) 2 π 0 Legyen x = x β H(x) = β megoldás. H(x) = β = lim N P( X N < x σ N ) mitt fennáll, hogy: teljesülésének vlószín sége β. XN < xβ σ (3.4) N 3.1.6. Megjegyzés. Gykrn lklmzzák következ megbízhtósági szinteket: β = 0, 997 és x β = 3 vgy β = 0, 95 és x β = 1, 96. Ezek megbízhtósági szintek szintén 14
megjelennek Monte Crlo szimuláció egy másik lklmzásábn, kockázttott érték számításábn, hol 99%-os és 97%-os megbízhtósági szintekkel fogunk dolgozni. Err l z 5. fejezetben lesz szó b vebben. 3.1.7. Megjegyzés. Az problém merül fel ebben z esetben, hogy legtöbbször nem ismerjük z X szórását, mikor várhtó értéket szeretnénk számolni. Szóvl speciális eseteken kívül nem tudjuk meghtározni szórást. Azonbn várhtó értéket tudjuk becsülni is, mihez N i=1 X2 i összeget kell kiszámolnunk. Ugynis sttisztiki megfontolások lpján tudjuk, hogy: E(X 2 i ) 1 N N X 2 i, i=1 ezért σ 2 (X) 1 N N X 2 i X 2 képlettel becsülhet szórásnégyzet. Ezt továbbr sem tudjuk htékonyn hsználni. Ezért fontos, hogy deniáljunk egy foglmt, torzíttln becslés foglmát. 3.1.8. Deníció (k dimenziós sttisztik). A minttéren megdott T : X R k függvényt, illetve mgát T = T(X) vlószín ségi változót k dimenziós sttisztikánk nevezzük. 3.1.9. Megjegyzés (Gykrn hsznált sttisztikák). Nézzük z lábbi sttisztikákt: 1) T(X) = X = 1 N N i=1 X i mint tpsztlti mintátlg. 2) T(X) = S 2 X = 1 N N i=1 (X i X) 2 mint tpsztlti szórásnégyzete. ( ) 3) T(X) = X (n) 1, X (n) 2,..., X (n) n mint rendezett mintáj, hol X (n) 1 <.. < X (n) 4) T(X) = X (n) n X (n) 1 mint terjedelme. 3.1.10. Deníció (Torzíttln becslés). Legyen z X eloszlásánk egy függvénye Ψ(ϑ), hol ϑ z X prmétere. Azt mondjuk, hogy Ψ(ϑ) függvény torzíttln becslése T(X) sttisztik, h i=1 E ϑ (T(X)) = Ψ(ϑ) ϑ Θ. 3.1.11. Megjegyzés. Beláthtó, hogy σ 2 (X) fenti becslése helyett jobbn lklmzhtó z (s N )2 = 1 N ( ) 2 N 1 i=1 Xi X N becslés, mivel ez torzíttln becslése σ 2 -nek (ennek részletes levezetése [2] cikkben megtlálhtó). Így meg tudjuk becsülni közelítés hibáját szórás közelít kiszámítás nélkül. n. 15
Tegyük fel, hogy σ 2 létezik. Legyen N = m N 1, m 1 3 nem ngy szám, N 1 viszont olyn ngy, hogy z X j = 1 N 1 X i+(j 1) N1 (j = 1,..., m) N 1 i=1 átlgokról joggl feltehet, hogy közel normális eloszlásúk. 3.1.12. Tétel (Fisher tétele). H X 1, X 2,...X m független, zonos eloszlású vlószín - ségi változók és E(X j ) = (j = 1,..., m), ekkor nézzük mintátlgot: X m = 1 m m X k, és tpsztlti szórásnégyzetet, mit z lábbi módon deniáltunk: k=1 (s m) 2 = 1 m m (X k X) 2. k=1 Nézzük ekkor z lábbi változót: t = m 1 X m 1 s m 1 Ez vlójábn egy vlószín ségi változó: m 1 szbdságfokú Student-eloszlású. 3.1.13. Tétel (m szbdságfokú Student-eloszlás s r ségfüggvénye). Az lábbi módon htározzuk meg, hol Γ(ξ) Gmm eloszlás s r ségfüggvénye. ( ) m+1 s m (x) = c m 1 + x2 2 < x <, m 1 c m = Γ ( ) m+1 2 π m Γ ( ). (3.5) m 2 Ezt pedig, h visszhelyettesítjük, megkpjuk, hogy P X N < x s 2 m 1 2 m 1. x 0 s m 1 (y)dy. (3.6) 16
3.2. Monte Crlo integrálok kiszámítás Ebben részben egyszer bb Monte Crlo integrálokt fogunk kiszámítni z lábbi lkból: f(p)dp. Ehhez fel fogjuk hsználni [5] és [6] jegyzetek tételeit. G 3.2.1. Tétel (Megfelel lk keresése). Legyen G sík egy tetsz leges trtomány. Jelölje P sík egy tetsz leges pontját és legyen p(p) G trtományon értelmezett vlószín ségi eloszláshoz trtozó s r ségfüggvény. Mivel p s r ségfüggvény, ezért fennáll rá z lábbi két tuljdonság: p(p) 0 p(p)dp = 1. G 3.2.2. Tétel. Minden integrál felírhtó szorztlkbn. Bizonyítás. Vezessük be z lábbi integrált: I(f) = G f(p) p(p)dp. (3.7) Erre z lkr fogunk minden integrált visszvezetni, mivel kés bbiekben fogllkozunk. Ezt zért tehetjük meg, mert minden integrál felírhtó z lábbi szorztlkbn: G g(p)dp = G h(p) p(p)dp, (3.8) h h függvényt megfelel en válsztjuk meg, zz: h(p) = g(p) p(p). Vissztérünk z lpproblémához, f(p)dp integrált szeretnénk kiszámítni. G Feltesszük, hogy G területe (s G ) véges. Vezessük be p 1 (P) = 1 s G függvényt. Ez G-n egyenletes eloszlású vlószín ségi változó s r ségfüggvénye. (Emlékeztet : 1 dimenzióbn z [, b] intervllumon egyenletes eloszlású vlószín ségi változó s r ségfüggvényét következ képp deniáltuk: f(x) = 1 b (3.7) lkb írv z integrált, megkpjuk, hogy: G f(p)dp = G h x [, b].) f 1 (P) p 1 (P), (3.9) hol f 1 (P) = s G f(p). Ezzel z átírássl továbbr sem fogjuk megváltozttni feldt megoldását. 17
Vezessük be z X vlószín ségi változót úgy, hogy z G trtományon legyen deniálv. Legyen X s r ségfüggvénye p(p). Legyen továbbá Y = f(x) és X 1,..., X N legyenek X független relizációi. Az Y i = f(x i ). Tekintsük Θ N = 1 N N i=1 Y i összeget. E( Y ) < esetén, 3.1.4 tételt felhsználv kpjuk, hogy ɛ > 0-r: Azz fenti integrált becsülhetjük z lábbi lkbn: lim P ( Θ N I(f) ɛ) = 0. (3.10) N E( Y ) = Az integrált máshogyn is becsülhetjük: G f(p) p(p)dp. (3.11) 0 f(x, y) c és P = (x, y) G. (3.12) Legyen G := G (0, c) és legyen (X, Y) olyn eloszlás G-n, mi p(x, y) s r ségfüggvénnyel rendelkezik, Z pedig [0, c] intervllumon egyenletes eloszlású. Feltehetjük, hogy Z és (X, Y) függetlenek, hiszen mindig tudunk így válsztni vlószín ségi változókt. Ekkor függetlenségb l dódón ρ = (X, Y, Z) vektorváltozó s r ségfüggvénye z lábbi módon fejezhet ki: p(x, y, z) = 1 c p(x, y) (x, y, z) G. (3.13) Most nézzük z el bbi vektorváltozónkt ρ = (X, Y, Z) és vegyük ennek N drb független relizációját: ρ 1, ρ 2,..., ρ N -et. Vezessük be ν-t zon ρ i vektorok számánk tárolásár, melyekre fennáll z lábbi tuljdonság: Z i < f(x i, Y i ) ρ i = (X i, Y i, Z i ). (3.14) Most tekintsük Z < f(x, Y) esemény vlószín ségét: P(Z < f(x, Y)) = f(x,y) G 0 Vezessük be z lábbi jelölést erre z értékre: p(x, y, z)dxdydz = 1 f(x, y) p(x, y)dxdy = 1 c G c I(f). (3.15) p = 1 I(f), (3.16) c 18
ekkor zt kptuk, hogy ν Binom(p), tehát: P(ν = m) = ( ) N p m (1 p) N m (m = 0, 1,..., N). (3.17) m Ahhoz, hogy ki tudjuk számítni z integrált, ngy számok törvényének Bernoulliféle lkját fogjuk felhsználni. A tétel szerint egy esemény bekövetkeztének elméleti vlószín sége p és z esemény tpsztlti reltív gykoriság kicsi, s t tetsz leges ɛ számnál kisebb lehet közel 1 vlószín séggel, zz ngy eltérés esélye kicsi. 3.2.3. Tétel (Ngy számok törvénye - Bernoulli-féle lk). Legyen A egy tetsz leges esemény, melyre P(A) = p. Végezzünk N drb független kísérletet és jelölje ezek között z A esemény bekövetkezésének számát ξ N. Ekkor reltív gykoriság: ξ N N -nel egyenl. Tetsz leges ɛ > 0 és δ > 0 esetén N 0, hogy N > N 0 esetén: ( ) lim P ξ N N N p ɛ δ. (3.18) Ebb l z lkból dódik, hogy Θ N = c ν változór teljesül, hogy: N ( ) lim P ΘN I(f) ɛ = 0 ( ɛ > 0). (3.19) N Tegyük fel, hogy Z = f(x) vlószín ségi változó σ szórás létezik. Ekkor fennáll, hogy: σ 2 = σ 2 (Z) = G f 2 (P) p(p)dp (I(f)) 2. (3.20) 3.2.4. Tétel. H elég kísérletet elvégzünk,kkor Θ N közelít leg normális eloszlású, I(f) várhtó értékkel és σ N szórássl. Felhsználv (3.2), (3.3) és (3.4) már korábbn levezetett formulákt, megkpjuk következ egyenl tlenséget: (3.21) vlószín sége β. Θ N I(f) < x β σ N. (3.21) 3.2.5. Megjegyzés. Tegyük fel, hogy rögzítettük β megbízhtósági szintet, pl. 95%- r. Ekkor (3.21)-et következ féleképp értelmezhetjük: [ I(f) β vlószín séggel ΘN x β σ N, Θ ] N + x β σ N intervllumbn helyezkedik el. 19
Ennek z intervllumnk hossz σ-vl rányos. H rögzítjük z intervllum hosszát, kkor x β σ N = ɛ és N = x 2 β σ2 ɛ 2 mitt N pedig σ 2 -tel rányos. 3.2.6. Megjegyzés. Ebb l láthtó, hogy becslésünk htékonyság nnál jobb, minél kisebb szórás. Ezért kell olyn vlószín ségi változókkl dolgozni, miknek kicsi szórás. 3.3. Példák Monte Crlo integrálásr Ebben részben néhány lklmzást fogunk megnézni Monte Crlo integrálásr. A htározott integrálok kiszámításához Monte Crlo integrálás Mtlb implementációját lklmztuk (Hit nd Miss módszer). A becsült integrálok mellett fel lesznek tüntetve pontos értékekt l vló eltérések. A kör területének kiszámítás A kör területe: 0.793cm 2, hib: 0.0076018 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1 0 0.2 0.4 0.6 0.8 1 3.1. ábr. Monte Crlo szimuláció kör területének kiszámításár 20
A legels számítás legegyszer bb péld Monte Crlo integrálás lklmzásár. Az feldtunk, hogy (0, 5; 0, 5) középpontú 0, 5 cm sugrú kör területét kiszámítsuk Monte Crlo módszerrel. A kör területét következ képp kpjuk: T = r 2 π 0, 7854cm 2. (3.22) Láthtó, hogy Hit nd Miss módszerrel kpott közelítés már 500 pontnál jó becslést d. Itt hib: h < 10 2, hogy 3.1 ábrán is látszik. A pi értékének kiszámítás A Monte Crlo integrálássl tudjuk közelíteni pl. π értékét. H véletlenszer en egy egységnégyzetbe és egy 0, 5 cm sugrú, (0, 5; 0, 5) középpontú körbe n drb pontot szórunk, kkor körbe es és körön kívül es pontok rány éppen kör területe lesz. H ezt leosztjuk sugár négyzetével (jelen esetben 0, 5 2 -tel), kkor π közelítését fogjuk kpni. 10000 pont beszórásávl már viszonylg jó becslést kpunk π értékére, hogy 3.2 ábr is muttj. A : értéke: 3.1416, hib: 7.3464e-06 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1 0 0.2 0.4 0.6 0.8 1 3.2. ábr. Monte Crlo szimuláció π értékének kiszámításár 21
A gömb térfogtánk kiszámítás Szeretnénk gömb térfogtát kiszámítni nlitikusn és Monte Crlo integrálássl is. Tudjuk, hogy gömb térfogt felírhtó z lábbi képlettel, hol r kör sugr: Anlitikusn V gömb = 4 r3 π. (3.23) 3 Forgástestek térfogtát legtöbbször integrálássl vgy Cvlieri-elv lklmzásávl tudjuk kiszámítni. [9] és [10] jegyzetek lpján át fogjuk nézni kpcsolódó tételeket. Most tekintsük z integrálássl kiszámított térfogtot. Speciális esetben, h z [, b] intervllumon folytonos, nemnegtív f függvény grkonját x tengely körül forgtjuk, kkor kpott test térfogt z lábbi integrálll számíthtó ki: V = π f 2 (x)dx. (3.24) Tekintsük z f : [ r, r] R, f(x) = r 2 x 2 nemnegtív, folytonos függvényt. Ez egy origó középpontú, r sugrú félkör hozzárendelési utsítás. H megforgtjuk z x tengely körül, kkor egy origó középpontú, r sugrú gömböt fogunk kpni. Számoljuk ki térfogtát: r r ] r V = π f 2 (x)dx = π (r 2 x 2 )dx = π [r 2 x x3 = 4 r3 π r r 3 r 3. (3.25) Monte Crlo szimulációvl Egy egységsugrú negyedgömbön szimuláltuk Monte Crlo integrálást, 1000 és 10000 pont beszórásávl. 3.3 és 3.4 ábrán megtlálhtó számolás hibáj és számolt térfogt is. Az egységgömb térfogt: V gömb = 4 π 3 4, 189cm 3. (3.26) 3.3.1. Megjegyzés. Látszik, hogy több pont beszórásávl csökken hib, mi z el z fejezet tételeib l követezik. 22
3.3. ábr. Monte Crlo szimuláció gömb térfogtánk kiszámításár 3.4. ábr. Monte Crlo szimuláció gömb térfogtánk kiszámításár 23
A tórusz térfogtánk kiszámítás A tórusz térfogtát gömbhöz hsonlón lehet kiszámítni: itt z y tengely körül forgtunk meg egy kört, minek középpontj z z tengelyt l R távolságr vn és r sugrú. Ekkor tórusz térfogt következ : V tórusz = 2 π 2 R r 2 (3.27) A Monte Crlo szimulációt futttv r = 1, R = 3 prméterekre, 5000 pont beszórásávl 3.5 ábrán tlálhtó közelítést kptuk: 3.5. ábr. Monte Crlo szimuláció tórusz térfogtánk kiszámításár Alkztok metszetének kiszámítás Feldt: Szeretnénk K 1 (0, 7; 0, 5) középpontú, 0, 3 cm sugrú, K 2 (0, 5; 0, 7) középpontú, 0, 2 cm sugrú és K 3 (0, 3; 0, 4) középpontú, 0, 3 cm sugrú körök metszetével keletkez területet. Ehhez hsználjuk Monte Crlo integrálást, 10000 pont beszórásávl. 24
A terület: 0.0198cm 2 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1 0 0.2 0.4 0.6 0.8 1 3.6. ábr. Monte Crlo szimuláció körök metszetének kiszámításár Egymást metsz gömbök térfogtánk kiszámítás A MC integrálás htékonyn lklmzhtó 3 dimenziós testek metszetének kiszámításár. Ki fogjuk számítni (1; 1) középpontú, 2, 5 cm sugrú és ( 0, 5; 0, 5) középpontú, 3 cm sugrú gömbök metszetét, hogy 3.7 és 3.8 ábrán láthtó. 3.7. ábr. Monte Crlo szimuláció gömbök metszetének kiszámításár (felülnézet) 25
3.8. ábr. Monte Crlo szimuláció gömbök metszetének kiszámításár (oldlnézet) 3.4. A Monte Crlo integrálás hibáj Ebben részben össze fogjuk hsonlítni Monte Crlo integrálás és kvdrtúr formulák hibáját, Meg fogjuk nézni, hogy mikor és miért jobb Monte Crlo integrálás kvdrtúr formuláknál. Ehhez fel fogjuk hsználni [11] jegyzet eredményeit. 2.1-ben már deniáltuk 1 dimenziódbn z integrációs kvdrtúr formulákt. Most deniáljuk M dimenzióbn is, z ([ 1, b 1 ] [ 2, b 2 ]... [ M, b M ]) M dimenziós téglán, hol x ji [ i, b i ]. Ekkor kpunk egy M + 1 dimenziós térfogtot, mit következ képp írhtunk fel: V (M+1) = V (M) N 1 N 2.. N j 1 =0 j 2 =0 N M j M =0 Deniáljuk M dimenzióbn Monte Crlo integrált is: ( ) j1.. jm f x (N 1) j 1,.., x (N M) j M (3.28) V (M+1) V (M) N N f(x i ) (3.29) 3.4.1. Következmény. Innen látszik különbség: kvdrtúr formulák kiszámításához M drb összegre vn szükség, míg MC integráláshoz csupán 1 is elegend. 26 i=0
1 2 dimenzióbn még kvdrtúr formulákkl pontosbbn és htékonybbn tudjuk számolni, mivel csk z lppontokon kell kiértékelni formulát, míg Monte Crlo integrálás során kár 10000 pontot is be kell szórnunk hsonló pontosság eléréséhez. Ahogy dimenziószámot (M) növeljük, kvdrtúr formulákhoz M összeget kell kiszámítnunk, mi egyre bonyolultbb lesz. Viszont Monte Crlo integráláshoz továbbr is csk 1 összeget kell számolni. Nézzünk egy példát. Legyen M = 10 és válsszunk minden intervllumból N i = 5 lppontot. Így h ki szeretnénk számítni kvdrtúr formulát szükség vn N M i = 5 10 10 millió pontr. Mivel z lppontok szám ngyon kevés, így kiértékelés sem lesz túl pontos. Viszont Monte Crlo integráláshoz elég összesen N pontot beszórni. 3.4.2. Péld. Nézzünk meg egy tesztet, mi 3.4.1 következményt támsztj lá. Egy szimulációt futtttunk, mi egy M dimenziós gömb térfogtát közelíti numerikus integrálássl (érint formulávl) és MC módszerrel. Ennek eredménye 3.1 ábrán láthtó. A numerikus integráláshoz minden dimenzióbn 20 lppontot vettünk. A Monte Crlo integrálást végig 10 5 db ponttl végeztük. 3.1. táblázt. Érint formul és Monte Crlo integrálás hibájánk összehsonlítás 1 Anlitikus Numerikus Monte Crlo Dimenzió Pontos érték Id Eredmény Hib Id Eredmény Hib 2 3, 1415 0, 00 3, 1524 1, 09 10 2 0, 01 3, 1435 2, 00 10 3 3 4, 1887 0, 00 4, 1737 1, 50 10 2 0, 07 4, 1896 9, 00 10 4 4 4, 9348 0, 00 4, 9023 3, 25 10 2 0, 08 4, 9330 1, 80 10 3 5 5, 2637 0, 02 5, 2381 2, 56 10 2 0, 10 5, 2787 1, 50 10 2 6 5, 1677 0, 30 5, 1451 2, 26 10 2 0, 13 5, 1748 7, 10 10 3 7 4, 7247 5, 02 4, 6704 5.43 10 2 0, 15 4, 7098 1, 49 10 2 8 4, 0587 89, 9 3, 9595 9, 92 10 2 0, 17 4, 0479 1, 08 10 2 9 3, 2985 1320 3, 3998 1, 01 10 1 0, 20 3, 3191 2, 06 10 2 3.4.3. Megjegyzés. Láthtó, hogy 6 dimenzió ltt z érint formul gyorsbb és pontosbb, viszont 6 dimenzió felett már Monte Crlo integrálás válik htékonybbá. Ez muttj Monte Crlo integrálás gykorlti hsznát. 1 A szimuláció és 3.1 ábr [11] cikk 12. oldlán szerepel. 27
3.4.4. Tétel. A Monte Crlo integrálás hibáj egyenesen rányos szórássl, mi pedig fordítottn rányos felvett véletlen pontok gyökének számávl. I I MC = V 2 σ N N (3.30) A hibképlet levezetésével nem fogllkozunk, témkör részletes kifejtése [13] és [14] jegyzetekben megtlálhtó. A Monte Crlo integrál nem determinisztikus, mivel véletlen számokt hsználunk becslésre. (3.30) lpján láttuk, hogy hib szórásnégyzett l függ, mi pedig véletlen számok drbszámánk növelésével csökkenthet. Ez viszont több számítást igényel. Beláthtó, hogy konvergenci lssbb, mint determinisztikus esetekben (f leg trpéz és Simpson módszerhez képest), viszont mgsbb dimenzióbn is megmrd konvergenci sebessége, míg determinisztikus módszerek egyre id és számításigényesebbé válnk. Tehát Monte Crlo integrálásnál fontos, hogy olyn módszereket lklmzzunk, melyek csökkentik szórást, viszont számítási id t nem, vgy nem jelent sen növelik. A következ fejezetben ezekr l szóráscsökkent eljárásokról lesz szó b vebben. 28
4. fejezet Szóráscsökkent eljárások Az el z fejezetben láttuk, hogy becslés htékonyság szórás csökkentésével vgy pontok számánk emelésével n. Ebben fejezetben szórást csökkent eljárásokkl fogunk megismerkedni. Ezeket z eljárásokt felhsználv Monte Crlo integrál lklmzásánál becslés pontosbb lesz. A fejezet részletes kifejtéséhez fel fogjuk hsználni [5] és [6] jegyzetek eljárásit. 4.1. A f rész leválsztás 4.1.1. Tétel. Nézzük ismét z lábbi integrált: I(f) = G f(p) p(p)dp. (4.1) H f függvényt egy olyn h függvénnyel közelítjük, mire I(h) integrált könnyen ki tudjuk számolni, kkor Monte Crlo módszert z g = f h függvényre lklmzv szórás csökkenthet. Bizonyítás. Közelítsük f-et egy ilyen h függvénnyel. Ekkor szórásnégyzet következ képpen becsülhet : σ 2 (f h) = σ 2 (f) + σ 2 (h) 2 Cov(f, h) < σ 2 (f). (4.2) Az utolsó egyenl tlenség fennáll, h kovrinci elég ngy, zz h függvény hsonlít f-hez. Azz megkptuk, hogy szórásnégyzet vlóbn csökken. 4.1.2. Péld. Szeretnénk kiszámítni 1 0 ex dx htározott integrált. Legyen h következ : h(x) = 1 + x, mivel e x 1 + x 0 egy kis környezetében, 1 (1 + x)dx = 1, 5 0 29
könnyen kiszámíthtó. Ekkor f részt leválsztv pontosbb becslést tudunk dni. 4.1. táblázt. MC szimuláció f rész leválsztásávl 1 Pontok szám Becsült integrál Szórás 10 1, 6450 5, 01 10 2 100 1, 7190 2, 29 10 2 1000 1, 7250 6, 89 10 3 10000 1, 7213 2, 10 10 3 100000 1, 7198 6, 60 10 4 1000000 1, 7184 2, 00 10 4 4.1.3. Megjegyzés. I(h) integrált könnyen meg tudjuk htározni pl. bbn z esetben, h h egy nlitikus függvény. A 2.2 fejezetben bemuttott interpolációs kvdrtúr formulák hsználhtók erre célr. Ebben z esetben h egy polinom, melynek integrálj könnyen kiszámolhtó. 4.2. Az integrációs trtomány részekre bontás Ebben z esetben nem egy függvényt fogunk keresni, minek könnyen ki tudjuk számítni z integrálját, hnem G-nek egy olyn részhlmzár sz kítjük z integrálást, melyen már meg tudjuk htározni (4.1)-ben felírt integrált. 4.2.1. Tétel. Tegyük fel, hogy egy B G trtományon meg tudjuk htározni z lábbi integrálokt. B f(p) p(p)dp = A, B p(p)dp =. (4.3) A Monte Crlo módszert G \ B-re lklmzv szórásnégyzet csökkenthet. Bizonyítás. Tegyük fel, hogy (4.3) képlettel ki tudjuk számítni z integrálokt B- n. Legyen D = G \ B. Ekkor f(p) p(p) integrált kell meghtároznunk. Erre D lklmzzuk Monte Crlo módszert. Nézzük z lábbi függvényt: p(p) h P D 1 p 1 (P) = 0 h P / D. Bebizonyíthtó, hogy p 1 (P) s r ségfüggvény. 1 A szimuláció és 4.1 ábr [12] könyvben szerepel. 30
D f(p) p(p)dp = (1 ) D f(p) p 1 (P)dP (4.4) A fenti (4.4) egyenl ség jobb oldlán álló integrál meghtározásához nézzük p 1 (P) s r ségfüggvény X vlószín ségi változót. Az integrál kiszámításához vegyük ennek N db független relizációját, zz X i (i = 1,..., N) mintát. Legyen Y = f(x) és Y i = f(x i ). Ekkor: σ 2 (Y) = D ( ) 2 f 2 (P) p 1 (P)dP f(p) p 1 (P)dP < 1 f 2 (P) p(p)dp. (4.5) D 1 D H megnézzük (4.5) egyenletet, kkor látni fogjuk, hogy kpott szórásnégyzet kisebb lett mint z eredeti szórásnégyzet. 4.3. Dimenziócsökkentés Vegyünk egy olyn 3 dimenziós esetet, hol z integrálnk z egyik változójár meg tudunk dni primitív függvényt. Ekkor ennek kiszámításávl, zz h pontos értéket djuk erre z integrálr, hibát ez is csökkenteni tudjuk. Péld Legyen f(x, y, z) = z e (x+y)2 : R 3 R függvény. Ekkor htározott integrál [0, 1] intervllumon következ képp írhtó fel: 1 1 1 0 0 0 1 1 0 0 f(x, y, z)dxdydz = ( 1 0 1 1 1 ) z e (x+y)2 dz dxdy = 1 1 2 0 0 0 0 z e (x+y)2 dxdydz = 1 0 e (x+y)2 dxdy. (4.6) Látszik, hogy z 3. változó szerinti integrál kiszámításávl csökkentettük dimenziószámot, mivel nyilvánvlón könnyebbé vált háromváltozós integrál kiszámítás. 31
4.4. A s r ségfüggvény optimális megválsztás Ebben részben zt fogjuk megnézni, h s r ségfüggvényünket megfelel en válsztjuk meg, kkor z csökkenti szórást. 4.4.1. Tétel. H s r ségfüggvényt z lábbi függvénynek válsztjuk, kkor csökken Monte Crlo integrálás hibáj. p (P) = f(p) G f(p) dp (4.7) Bizonyítás. Szeretnénk z lábbi integrált meghtározni: I = G f(p)dp. (4.8) Tegyük fel, hogy G f2 (P) dp <. Legyen G 0 zoknk P G pontoknk hlmz, melyekre f(p) = 0 fennáll és legyen G 1 = G\G 0. Olyn p s r ségfüggvényeket fogunk nézni, melyekre p(p) > 0 Legyen (P G 1 ) teljesül. f(p) h P G p(p) 1, g(p) = 0 h P G 0. Ekkor (4.8)-ben szerepl integrálr: I = I(g). Most írjuk fel szórást: σ 2 p = G g 2 (P) p(p)dp I 2 = Olyn s r ségfüggvényt keresünk, mire szórás minimális: Legyen: Nézzük meg ennek szórását: p (P) = σ 2 p = ( G G G f 2 (P) p(p) dp I2. (4.9) f(p). (4.10) f(p) dp f(p) dp) 2 I 2. (4.11) Meg fogjuk muttni, hogy erre s r ségfüggvényre legkisebb szórás. Ehhez írjuk 32
fel Cuchy-Bunykovszkij-Schwrz egyenl tlenséget bl oldlr, zz: ( 2 f(p) dp) G ( ) 2 ( f(p) dp = f(p) p(p) G 1 G 1 ) 2 1 1 2 p(p) 2 dp ) ( ) f(p) ( G1 2 p(p) dp f(p) p(p)dp G 1 G1 2 dp. (4.12) p(p) H f nem vált el jelet G-n, kkor σ p = 0. H s r ségfüggvény válsztását jobbn szemügyre vesszük, kkor felt nhet, hogy ennek kiszámításához ismernünk kellene f(p) dp integrált. Így vlójábn nem G lesz egyszer bb feldt, viszont zt megkptuk, hogy érdemes s r ségfüggvényt f(p) -vel rányosnk válsztni. Ezt z eljárást lényeg szerinti mintvételnek nevezik. 4.5. Az integrndus szimmetrikussá tétele Ebben részben szimmetrizálás lklmzásávl jvított Monte Crlo integrálást fogjuk vizsgálni. Itt is be tudjuk bizonyítni, hogy szimmetrikussá tétel csökkenti szórást. 4.5.1. Tétel. H szimmetrikussá tesszük z integrndust, kkor szórásnégyzet csökkenni fog. Bizonyítás. Szeretnénk kiszámítni z lábbi integrált: I = f(x)dx, < b <. (4.13) Legyen X egyenletes eloszlású [, b] intervllumon. Továbbá legyen Y = (b ) f(x), Y i = (b ) f(x i ), hol X 1, X 2,.., X N z X független relizációi. Az integrált Y 1, Y 2,.., Y N mint átlgávl fogjuk becsülni: Θ N = 1 N Nézzük z lábbi függvényeket: N i=1 Y i = b N N f(x i ). (4.14) i=1 f (1) (x) = 1 [f(x) + f( + b x)], 2 Y (1) i = (b ) f (1) (X i ), Y (1) = (b ) f (1) (X), 33
Θ (1) N = b 2 N N (f(x i ) f( + b X i )). (4.15) i=1 Írjuk fel z eredeti szórásnégyzetet és fenti Y és Y (1) vlószín ségi változók s r ségfüggvényét: σ 2 1 = σ 2 (Y (1) ), σ 2 = σ 2 (Y). (4.16) Ekkor 2. momentumokt fel tudjuk írni következ képpen: E((Y (1) ) 2 ) = b 4 = b 2 E(Y 2 ) = (b ) f 2 (x)dx, [ f 2 (x) + 2 f(x) f( + b x) + f 2 ( + b x) ] dx = [ f 2 (x)dx + ] f(x) f( + b x)dx. (4.17) A Cuchy-Bunykovszkij-Schwrz egyenl tlenség felhsználásávl második integrálr z lábbi fels becslés dhtó: f(x) f( + b x)dx = ( ) 2 f(x) f( + b x) ( Ebb l következik, hogy: ) 1 ( f 2 2 b ) 1 (x)dx f 2 2 ( + b x)dx = f 2 (x)dx. (4.18) E((Y (1) ) 2 ) E(Y 2 ) σ 2 1 σ 2. (4.19) 4.5.2. Megjegyzés. H f(x) monoton és szkszonként folytonos függvény z [, b] intervllumon, kkor élesebb becslés is dhtó σ 2 1 -re: σ 2 1 1 2 σ2. (4.20) Bizonyítás. Írjuk fel 2 σ 2 1-et z (4.16) és (4.17) egyenletek lpján: 2 σ 2 1 = (b ) f 2 (x)dx + (b ) 34 f(x) f( + b x)dx 2 I 2,
σ 2 = (b ) Be kell bizonyítnunk, hogy: (b ) f 2 (x)dx I 2. (4.21) f(x) f( + b x)dx I 2. (4.22) Tegyük fel, hogy f(x) monoton növ függvény, zz f(b) > f(). Deniáljuk v(x) függvényt következ képpen: v(x) = (b ) x f( + b t)dt (x ) I. (4.23) Ekkor v(x) függvény z [, b] intervllum két végpontjábn 0 értéket vesz fel. H deriváljuk függvényt, kkor: v (x) = (b ) f( + b x) I. (4.24) A v (x) monoton csökken függvény lesz. H behelyettesítjük végpontotokt, kkor zt kpjuk, hogy v () > 0 és v (b) < 0, ezért v(x) 0 is fenn kell hogy álljon x [, b]. Mivel f(x) monoton növ függvény, ezért f (x) 0. Ebb l pedig következik, hogy: v(x) f (x)dx 0. (4.25) H ezt prciálisn integráljuk, z lábbi egyenl tlenséget kpjuk: v(x) f (x)dx = [v(x) f(x)] b f(x) v (x)dx = f(x) v (x)dx 0, f(x) v (x)dx 0. (4.26) Most helyettesítsük vissz v (x) = (b ) f(+b x) I értéket z egyenl tlenségbe: f(x) ((b ) f( + b x) I) dx = (b ) (b ) (b ) f(x) f(+b x)dx I f(x) f( + b x)dx I 2 0, f(x) f( + b x)dx I f(x)dx = f(x)dx. (4.27) 35
Azz visszkptuk (4.22) egyenl tlenséget. 4.5.3. Megjegyzés. Világos, hogy szimmetrikussá tétel egyszer és gyors hibcsökkentéssel lklmzhtó egydimenziós integrálok esetén. A többdimenziós eset zonbn már több és bonyolultbb számítást igényel. Nézzük zt példát, mikor f(x, y, z) 3 dimenziós függvényt szeretnénk szimmetrizálni z [0, 1] [0, 1] [0, 1] egységkockán. Ekkor z új függvényünket következ képp írhtjuk fel: f (1) = 1 [f(x, y, z) + f(1 x, y, z) + f(x, 1 y, z) + f(x, y, 1 z)+ 8 +f(1 x, 1 y, z) + f(1 x, y, 1 z) + f(x, 1 y, 1 z) + f(1 x, 1 y, 1 z)]. (4.28) Azz itt már 8 tggl kell számolnunk minden lépés során. 4.5.4. Megjegyzés. Gykorltbn legtöbbször el ször dimenziócsökkentést hsználják (h lehetséges), után pedig z integrációs trtomány részekre bontásávl csökkentik szórást. Beláthtó, hogy ezek lklmzás kár 90%-kl csökkenti szórást. Hátrányuk zonbn, hogy sokszor nehezen vgy egyáltlán nem implementálhtók gykorltbn. 36
5. fejezet Kitekintés 5.1. Véletlen szám generálási technikák Az el z fejezetek során láttuk, hogy Monte Crlo integrálás középpontjábn véletlen számok állnk. Ezért lényeges, hogy szimulációnkhoz rendelkezzünk ilyen számokkl. Vlójábn ezeket nem olyn egyszer el állítni számítógépek segítségével, bár meg kell említenünk, hogy szinte minden számítógépes progrm része egy véletlen szám táblázt (Mtlbbn rnd()-ot hsználunk). Ezekkel számítógépes véletlen szám generátorokkl fogunk fogllkozni ebben részben. A véletlen számok három ktegóriáb sorolhtók: Igzi véletlen számok: ezeknek számoknk z lényege, hogy nem tudjuk megjósolni, mi lesz szám. Pl. lottósorsolásnál, mikor vlki kihúz egy számot dobozból, kkor z {1, 2,..., 90} hlmzból kpunk egy véletlenszer en kiválsztott számot. Pszeudovéletlen számok: ezek számok egy lgoritmussl el állított számok, melyek számítógépes implementációját fel tudjuk hsználni pl. szimulációk során. Ezek számok vlójábn nem tekinthet k véletlennek, ugynis h ismerjük z lgoritmust, kkor vissz tudjuk dni z összes el állított számot. Kvázirndom számok. Ezek célj z N dimenziós tér egyenletes kitöltése (Hlton, Hmmersley, Sobol). A pszeudovéletlen és kvázivéletlen számok közti különbséget 5.1 ábrán szemléletesebben is láthtjuk. 37
5.1. ábr. Pszuedorndom és kvázirndom számok 2 dimenzióbn 1 A Monte Crlo integrálás implementálásához hsználhtók pszeudovéletlen számok és kvázirndom számok is. Utóbbit kvázi Monte Crlo módszernek nevezik. A 3. fejezet Mtlb implementációibn pszeudovéletlen számokt hsználtunk és gykorlti életben is ez z elterjedtebb, ugynis z összes véletlen szám generátor progrmokbn ilyen számokt állít el. Erre d példát dolgozt CD mellékletén tlálhtó lcg() progrm. Ilyen pszuedovéletlen szám generátorok pl. lineáris kongruencigenerátorok, Mersenne Twister és Fiboncci generátorok. A pszeudovéletlen számok közös jellemz i: Kezdeti érték: egy megdott kezdeti értékre generátor ugynzt számsort fogj visszdni. Periódus: sorozt egy bizonyos id után ismétl dni fog, ezt számot nevezzük periódusnk. Ennek ngyobbnk kell lennie, mint milyen hosszú számsoroztot krunk generálni, ugynis h kisebb lenne, kkor biztosn lenne egy ismétl d rész soroztbn. 1 A szimuláció és 5.1 ábr Common Mth: The Apche Mthemtics Librry csomgbn tlálhtó. 38
Intervllum: (0, 1), (0, 1], [0, 1) vgy [0, 1]. A periódust leggykrbbn egy 4-byte-os számként reprezentálják, 2 32 4 10 9. Ezért ugynennyi véletlen szám is el állíthtó. Lineáris kongruencigenerátorok A lineáris kongruencigenerátorok legegyszer bb generátorok egyike, mik segítségével el állíthtunk pszeudovéletlen [0, 1) soroztokt. Az lábbi implementáció [15] cikkben szerepel. Egy N hosszú soroztot fogunk készíteni. Ehhez 4 prméterre vn szükségünk: m > N, A, és b számokr. A generátor lgoritmus következ : y 1 A (mod m) 0 y 1 < m, y n+1 y n + b (mod m) 0 y n+1 < m n = 1, 2,..N 1. (5.1) Legyen továbbá i = 1, 2,..N esetén x i = y i, ez pedig bizonyítottn tekinthet pszeudovéletlen soroztnk [0, 1) m intervllumon. Nézzük z lábbi prméterekkel lineáris kongruenci generátort: A = 5, = 2 16 + 3, b = 0, m = 2 31, N = 2000. A [0, 1] [0, 1] egységnégyzeten nézzük következ konstrukciót: generáljuk le 1 dimenzióbn lineáris kongruenci generátorrl x i számokt, mjd rjzoltssuk ki (x i, x i 1 ) pontpárokt. Ekkor 5.2 ábrán láthtjuk lineáris kongruenci generátor áltl generált számokt z egységnégyzeten. Láthtón ezekkel prméterekkel pontok eloszlás teljesen véletlenszer nek t nik. 39
1 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1 0 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1 5.2. ábr. A lineáris kongruenci generátor áltl generált véletlen pontok. Mersenne Twister A Mersenne Twister lgoritmus leggykrbbn hsznált véletlen szám generátor, ugynis ezt hsználj jelenleg legtöbb progrm beépített függvényként (pl. Mtlb: rnd(), rndi(), rndn()). A generátor periódus 2 19937 1, mi kb. 6000 számjegyb l áll, zz h másodpercenként egymilliárd számot generálunk, kkor 5985 évig trt, mire elölr l kezd dik számsor. 5.1.1. Megjegyzés. Említettük z el z részben, hogy teljes számsorozt visszdhtó, h kezdeti érték ugynz. Észrevehetjük, h Mtlbbn elindítunk két véletlen szám generátort, kkor ugynzt z eredményt dj vissz, h nem 'reseedelünk' (seed=kezdeti érték), ugynis ilyenkor ugynrról kezd értékr l indítj számítást (ez konkrétn 0 szám). Ahhoz, hogy mindig független számsoroztokt kpjunk, 'shuffer' prncsot hsználhtjuk, mi mindig egy új kezd értéket állít be pillntnyi 40
id lpján. Bár ez véletlenszer nek t nik, nem célszer mindig 'reseedelni' generátort, ugynis ez htássl lehet véletlen számink sttisztiki tuljdonságir. A 'defult' beállítás nnyibn el nyös, hogy szimulációnkt ugynzokkl véletlen számokkl újr tudjuk futttni. Fontos megemlíteni, hogy Mtlbbn lehet hsználni másik véletlen szám generátort, pl. Combined Multiplictive Recursive generátort z rng(0,'combrecursive') prnccsl, viszont ez lssbbn tud számokt generálni. 5.1.2. Megjegyzés. A Mersenne Twister generátor onnn kpt nevét, hogy periódusideje egy Mersenne-prím (2 19937 1). Generátorok hsznosság Azokt generátorokt nevezhetjük jó generátoroknk, mik bizonyos sttisztiki teszteket teljesítenek. Ezek közül leggykrbbn hsznált tesztek egy csomgbn vnnk (TestU01). A csomg számos empirikus sttisztiki tesztet trtlmz, minek részletes leírás [16] cikkben szerepel. A Mersenne Twister és lineáris kongruenci generátorok is ennek elvégzése során htásosnk bizonyultk. 5.2. Egyéb lklmzások A Monte Crlo módszert egyre gykrbbn lklmzzák tudomány egyes területein (f leg modellezés terén, pl. zikábn, mtemtikábn, gzdsági életben, biológiábn és kémiábn is). Ezekb l fogunk néhányt áttekinteni, f leg mtemtiki vontkozásbn. Buon-féle t problém A legismertebb problém, mire lklmzták Monte Crlo módszert, Buon-féle t problém. A történet szerint George L. Leclerc 1777-ben végzett egy kísérletsoroztot, hogy megnézze, mekkor nnk vlószín sége, hogy z sztllpr d távolságbn felrjzolt vonlk egyikét metszeni fogj feldobott l hosszúságú t, hol d > l. Ezt végül megoldott nlitikusn és kísérletsoroztot N-szer végrehjtott, mjd megszámolt, hogy z esemény n-szer következett be és rr jutott, hogy elég ngy N esetén n jó közelítést d vlószín ségre. A kísérletet π kísérleti meghtározásár N hsználták. Annk vlószín sége, hogy t metszi pdló vonlát: p = 2 l. Innen π d π = 2 l. Az 5.3 ábrán Mtlb beépített szimulációj láthtó. d p 41
5.3. ábr. Buon t problém π közelítésére 2 dimenziós véletlen bolyongás A véletlen bolyongás problémájánk szimulálásár is hsználhtunk Monte Crlo módszert. Legyen S n = X 1 + X 2 +... + X n bolyongást végz részecske helyzete n lépés után. A lépések egymástól függetlenek. Az 5.4 ábrán 1000 lépést tettük meg. A piros kör kezd pont zöld pedig z utolsó állás. 5.2.1. Megjegyzés. Érdekesség, hogy szimmetrikus véletlen bolyongások témkörében elért eredményeket el ször hdifoglyok szökésénél lklmzták, hogy dott id ltt milyen messzire jutnk. Npjinkbn lklmzhtó zikábn, pl. gáz és folydékrészecskék véletlenszer mozgásánk szimulációir, biológiábn pedig pl. populációdinmik modellezésére hsználják. 42
Egyéb lklmzások 5.4. ábr. 2 dimenziós véletlen bolyongás szimulálás A Monte Crlo módszert gykrn lklmzzák gzdsági életben is. Két fontos felhsználási területe kockázttott érték számítás és z opcióárzás. A módszer hsználhtó ziki, biológii területen is (genetiki modellezésnél, részecskék mozgásánk modellezésénél). Ezekre már nem fogunk részletesen kitérni. Ezek is Monte Crlo módszer sokrét lklmzhtóságár dnk bizonyítékot. 43
Irodlomjegyzék [1] Krátson János, Numerikus funkcionálnlízis, egyetemi jegyzet, Budpest, 2014. [2] Christopher M. Bishop, Pttern Recognition nd Mchine Lerning (Informtion Science nd Sttistics), Springer-Verlg, New York, 2016. [3] Günther Hämmerlin, Krl-Heinz Homnn, Numericl Mthemtics, Springer-Verlg, 1989. [4] Gergó Ljos, Numerikus módszerek, ELTE Eötvös Kidó, 2010. [5] Káti Imre, Szimulációs módszerek, Tnkönyvkidó, Budpest, 1981. [6] Jmes E. Gentle, Rndom Number Genertion nd Monte Crlo Methods, Springer-Verlg, New York, 2003. [7] Boll Mrinn, Krámli András, Sttisztiki következtetések elmélete, Typotex, Budpest, 2005. [8] Rényi Alfréd, Vlószín ségszámítás, Tnkönyvkidó, Budpest, 1981. [9] Ron Lrson, Bruce Edwrds, Clculus, Brooks Cole, 2005. [10] Simon Péter, Bevezetés z nlízisbe I, egyetemi jegyzet, Budpest, 2013. [11] Ki Nordlund, Bsics of Monte Crlo simultions, egyetemi jegyzet, Helsinki, 2006. [12] Rüdiger Seydel, Tools for Computtionl Finnce, Springer Verlg, Berlin, 2008. [13] George Csell, Roger L. Berger, Sttisticl Inference (2.nd edition), Duxbury, 2002. 44
[14] George Csell, Roger L. Berger, A Short History of Mrkov Chin Monte Crlo: Subjective Recollections from Incomplete Dt, Sttistic Science, 2014. [15] Hrld Niederreiter, On the distribution of pseudo-rndom numbers generted by the liner congruentil method I-II-III., Springer Verlg, 1985. [16] Pierre L'Ecuyer, Richrd Simrd, TestU01: A C Librry for Empiricl Testing of Rndom Number Genertors, ACM Trnsctions on Mthemticl Softwre, 2007. 45