Optimalizálás alapfeladata Legmeredekebb lejtő Lagrange függvény Log-barrier módszer Büntetőfüggvény módszer 2017/

Átírás

1 Operációkutatás I. 2017/ Szegedi Tudományegyetem Informatikai Intézet Számítógépes Optimalizálás Tanszék 9. Előadás

2 Az optimalizálás alapfeladata Keressük f függvény maximumát ahol f : R n R és x R n max f(x) x Lehetnek adottak korlátozó feltételek: g i (x) 0, i = 1,..., m és/vagy g j (x) = 0, j = m + 1,..., m + k. Ha adottak, feltételes, különben feltétel nélküli optimalizálási feladatról beszélünk. f és g i függvények lehetnek lineárisak (LP), vagy nemlineárisak is, de feltesszük, hogy folytonosak x-re nincs g i -ken kívül megszorítás (pl. nem köthetjük meg, hogy egészek) jelöljük S-sel a lehetséges megoldások halmazát

3 Az optimalizálás alapfeladata Mit jelent az, hogy x egy megoldás? Lokális optimum Egy x lokális maximum (optimum), ha δ > 0, úgy, hogy f(x ) f(x) x S és x x < δ esetén. Globális optimum Egy x globális maximum (optimum), ha f(x ) f(x) x S esetén.

4 Az optimalizálás alapfeladata ábra Kérdés Mikor lesz minden lokális maximum (minimum) globális is? Ha f konkáv (konvex) függvény, akkor biztosan.

5 Feltétel nélküli optimalizálás: Szükséges és elegendő feltétel optimalitásra Tétel (szükséges feltétel). Ha x az f(x) függvény maximuma (minimuma), akkor f (x ) = 0. Ez nem elegendő, ld. pl. f(x) = x 3 függvény. Tétel (elegendő feltétel). Ha f (x ) = 0 és f (x ) negatív (pozitív), akkor x lokális maximuma (minimuma) f-nek. Azokat a pontokat, ahol f (x) = 0 stacionárius pontoknak nevezzük. A max f(x) x [a,b] feladat megoldását a stacionárius pontjai illetve a és b közt keressük.

6 Példák monoton függvényre

7 Példák konkáv és konvex függvényekre

8 Példa se nem konkáv se nem konvex függvényre

9 Példa optimumra nem 0 deriválttal

10 Legmeredekebb lejtő módszere Több dimenziós feladatoknál az f (x) = 0 feltételt felváltja a f(x) = (f x 1 (x), f x 2 (x),..., f x n (x)) = 0 szükséges feltétel. Ez nem feltétlenül könnyen megoldható egyenletrendszerre vezet, ezért iteratív megoldáshoz folyamodunk. Lokális kereső eljárás Legyen x 0 a kezdő megoldásunk, az iterációs lépés pedig x i+1 = x i + µd i, i = 0,1,2,... ahol d i egy növekvő irány maximalizálásnál, µ pedig a lépéshossz. Ha x i+1 x i ɛ, azaz az új lépes nem elég nagy, STOP. Ahogy f (x) a növekvő irányba mutat 1D-ben, úgy f(x) a legmeredekebb növekedés irányába mutat nd-ben. Így d i = f(x i ) jó választás. µ-t vagy az egydimenziós max µ x i + µd i feladat megoldásával, vagy közeĺıtéssel határozzuk meg.

11 Legmeredekebb lejtő: példa Példa. Maximalizáljuk az f(x, y) = (x 3) 2 3(y 1) 2 függvényt! ( ) f f = x f y = ( ) ( 2(x 3) 6 2x = = 6(y 1) 6 6y x 0 = (0,0) x 1 = (0,0) + µ(6,6) = (6µ,6µ), vagyis max µ f(6µ,6µ)-t keressük! max µ f(6µ,6µ) = max (6µ 3) 2 3(6µ 1) 2 = max 144(µ 1/4) 2 3 ) µ = 1/4 x 1 = (6/4,6/4)!!!

12 x 2 x 1 x 3 x * x 2 x 1

13 Feltételes optimalizálás: Lagrange függvény Adott a következő feltételes probléma max x R n f(x) g j (x) = 0, j = 1,..., m Az L(x, λ) = f(x) m λ j g j (x) j=1 függvényt a feladat Lagrange függvényének nevezzük. Tétel (szükséges feltétel). Ha x az (1) feladat maximuma, akkor létezik λ amire x a Lagrange függvény stacionárius pontja, azaz L(x, λ ) = 0. A λ vektor elemeit Lagrange multiplikátoroknak nevezzük.

14 Lagrange függvény példa Példa. Maximalizáljuk f(x, y) = x + y függvényt, feltéve x 2 + y 2 = 1. Lagrange függvény. L(x, y, λ) = x + y λ(x 2 + y 2 1) = x + y λx 2 λy 2 + λ A szükséges feltétel L(x, y, λ) = L x L y L λ = 1 2λx 1 2λy x 2 y = Megoldva: x = y = 1/(2λ), λ = ±1/ 2 így (x, y) = ( 2/2, 2/2), illetve (x, y) = ( 2/2, 2/2). Ebből f( 2/2, 2/2) = 2 a maximum, f( 2/2, 2/2) = 2 a minimum

15 Lagrange függvény példa

16 A log-barrier módszer Motiváció: ahelyett, hogy megoldanánk egy feltételes optimalizálási feladatot, beépítjük a feltételeket a célfüggvénybe. (ld. mint Lagrange függvény) Ötlet: Tegyük fel, hogy adott egy kezdő lehetséges megoldásunk (x 0 S). Készítsünk szakadékot az S határán. A feladat: A barrier függvény: max x R n f(x) feltéve g i (x) 0, i = 1,..., m B µ (x) = f(x) + µφ(x) ahol φ(x) legyen ha x nem megengedett megoldás, és kis negatív ha megengedett!

17 A log-barrier módszer: A φ függvény lehetséges választásai φ(x) = m log( g i (x)) i=1 φ(x) = m i=1 1 g i (x) Az x 0 feltétel esetén Az x 0 feltétel esetén A µ paraméter megválasztása kontrollálja az akadály szigorúságát: µ nagy: fokozatos akadály (kék) µ kicsi: éles akadály (barna)

18 A log-barrier módszer: példa Példa. max x + y ha x 2 + y 2 1 B µ = x + y + µ x 2 +y 2 1 Induljunk ki az x 0 megengedett kezdő megoldásunkból, oldjuk meg a max B µ feladatot, majd µ-t fokozatosan csökkentve újra meg újra oldjuk meg a max B µ feladatot!

19 A log-barrier módszer: Megjegyzések A B µ feladatok megoldása tart az eredeti feladat megoldásához ha µ 0, de nem éri el ha g i (x ) = 0 (B µ (x ) = µ > 0). Csak egyenlőtlenség feltételek mellett alkalmazható, különben nincs lehetséges megoldása! Kis µ esetén a barrier függvény rosszul kondícionált, azaz numerikusan nehezen megoldható (túl nagy a célfüggvényérték különbség kis lépésre is). A feltételeket nem hagyhatjuk figyelmen kívül: ha kilépünk a lehetséges tartományból a függvényünk vagy nem értelmezett (logaritmus), vagy rossz megoldást ad (reciprok).

20 Szimplex vs. belső pontos módszer A log-barrier módszer lineáris programozási feladatra való alkalmazásából született az ú.n. belső pontos módszer!

21 Büntetőfüggvény Mi a helyzet akkor, ha nincs meg a kezdő lehetséges megoldás (azaz egy belső pont...)? Ötlet: Legyen a büntető függvény P ρ (x) = f(x) + ρψ(x), ahol ρ < 0 szám a büntető paraméter és { 0, ha x lehetséges megoldás ψ(x) = > 0, különben. Cél: max P ρ(x) x problémák sorozatának megoldása, ahol ρ. Vagyis: a nem lehetséges megoldások esetén a célfüggvény legyen egyre kisebb.

22 Büntetőfüggvény Tekintsük a feltételekkel adott feladatot. max x R n f(x) feltéve g j (x) 0, j = 1,..., m feltéve g j (x) = 0, j = m + 1,..., l A ψ függvény lehetséges választásai: ψ(x) = m l max{0, g i (x)} + g i (x) i=1 i=m+1 Vagy a négyzetes büntetőfüggvény ψ(x) = m l max{0, g i (x)} 2 + g i (x) 2 i=1 i=m+1

23 Büntetőfüggvény: példa Példa. max x + y ha x 2 + y 2 1 P ρ = x + y + ρ max{0, x 2 + y 2 1} 2

24 Büntetőfüggvény: példa

25 Büntetőfüggvény Nem tudjuk előre, mekkora ρ fog kelleni ρ < 0, ha ρ túl nagy, a feladat rosszul kondicionált Csökkentsük fokozatosan ρ értékét A keresést mindig az előző megoldásból indítsuk Ha konvergál a függvényérték, megállunk Van olyan feladat amire csak nem megengedett megoldást ad (ld. következő ábra)

26 Barrier vs büntetőfüggvény ábra Példa. max e x f.h. x 0

27 Barrier vs büntetőfüggvény ábra Barrier függvények Büntető függvények