Problémás regressziók

Átírás

1 Universitas Eotvos Nominata II Problémás regressziók A közönséges (OLS) és a súlyozott (WLS) legkisebb négyzetes lineáris regresszió egy p- változós lineáris egyenletrendszer megoldása. Az egyenletrendszer együtthatómátrixa (X T X) - illetve (X T WX) -

2 Universitas Eotvos Nominata II Ismeretes, hogy ha egy Ax = y lineáris egyenletrendszer A együtthatója szinguláris, (det(a) = 0), akkor az egyenletrendszer nem oldható meg. Az ok: az A mátrix nem tartalmaz annyi független információt, amennyi x értékeket meghatározná.

3 Universitas Eotvos Nominata II Vannak mátrixok, amelyek determinánsa ugyan nem 0, de majdnem szingulárisok, determinánsuk nagyon kicsi szám. Az ilyen mátrixok vektorai nagyon kis szöget zárnak be, majdnem párhuzamosok. Az ilyen mátrixok rossz kondíciójúak.

4 Universitas Eotvos Nominata II Tekintsük a következő egyenletrendszert: / 5 / 6 / 7 / 8 / 6 / 7 / 8 / 9 / 7 / 8 / 9 /0 / 8 x / 9 x /0x / x =

5 Universitas Eotvos Nominata II Más számformátumban: x x x x x x x x + 0.x x + 0.x x x + 0.x x x = = = =

6 Universitas Eotvos Nominata II Ennek a rendszernek együtthatómátrixa nem szinguláris. Az egyenletrendszer megoldható. Gyökei: x = 280 x2= 52 x3 = 2520 x4 = 320.

7 Universitas Eotvos Nominata II Ha az egyenletrendszer jobboldalán az elsõ elemet %-kal, 0.99-re csökkentjük miközben a többi marad, az ismeretlenek rendre: x = x2 = x3 = x4 =

8 Universitas Eotvos Nominata II Ha a második elemet %-kal, 0.99-re csökkentjük miközben a többi marad, az ismeretlenek: x = x2 = x3 = x4 =

9 Universitas Eotvos Nominata II Ha az egyenletrendszer jobboldalán a harmadik elemet %-kal, 0.99-re csökkentjük miközben a többi marad, az ismeretlenek:

10 Universitas Eotvos Nominata II Ha a negyedik elem %-ot csökken, 0.99-re (miközben a többi marad), az egyenlet gyökei:

11 Universitas Eotvos Nominata II Ezek a teljesen eltérő ismeretlenek ugyanakkor az egyenleteket tökéletesen kielégítik. Ebből látszik, hogy rossz kondíció esetén a paraméterek értéktelenek, annak ellenére, hogy képesek az aktuális y-ok reprodukálására (és csak erre).

12 Universitas Eotvos Nominata II A mátrixkondíció mérése Kvadratikus mátrixok kondíciójának jellemzésére a determináns nem alkalmas, mert értéke az elemek számértékétől is függ. A kondíciót többféle módon definiált, cond(a) jelű skaláris számmal mérik, amelyet mátrixnormákból vagy mátrix sajátértékekből vezetnek le.

13 Universitas Eotvos Nominata II Kvadratikus A mátrix normája lehet az A = max j n i= maximális abszolut oszlopösszeg,az A = max n j= maximális abszolut sorösszeg, továbbá i a a ij ij

14 Universitas Eotvos Nominata II A 2 = max k λ k ( ) A T A az A T A mátrix maximális sajátértéke.

15 Universitas Eotvos Nominata II A kondíciószám a mátrix és inverze valamely normájának szorzata: cond( A) = A. A

16 Universitas Eotvos Nominata II Fennáll: cond(a) < A kondíciószám merőleges vektorokat tartalmazó mátrixok esetén. Minél kisebb szöget zárnak be egymással a mátrix vektorai, annál nagyobb cond(a), annál rosszabb kondíciójú A.

17 Universitas Eotvos Nominata II A kondíciószám tájékoztat arról, hogy egy y = X.a (meghatározott) egyenletrendszer esetén y vektor δ y megváltozása maximálisan mekkora változást idézhet elő a vektor normájában a 0 pontos értékéhez képest: δa = X a 0. X δy y

18 Universitas Eotvos Nominata II Elterjedt kondíciószám a mátrix A 2 normájának A és inverze 2 ahol... normájának szorzata: cond( A) = A 2. A 2

19 Universitas Eotvos Nominata II és A A 2 = max 2 k λ k ( ) A T A ( ) T = max A A k λ k

20 Universitas Eotvos Nominata II A kondíciószám nem kvadratikus S mátrixra is értelmezve van, olymódon, hogyj cond ( S) ( ) ( T ) ( T ) S S * max S / S = maxλ λ

21 Universitas Eotvos Nominata II Példa kondíció számítására: A egy véletlen mátrix: >> A = A kondíció száma, MATLAB programmal: >> cond(a) =

22 Universitas Eotvos Nominata II A számítás egy módja: >> G=A'*A >> lambdamax_g =max(eig(g))= >> lambdamax_invg =max(eig(ig)).698 >>cond= sqrt(lambdamax_g*lambdamax_invg)=

23 Universitas Eotvos Nominata II Többkomponensű elegyek összetételének számítása. Tegyük fel, hogy egy elegy k-adik komponense koncentrációjával (pl. móltörtjével) arányos jelet ad: h k = s k *x k Tegyük fel, hogy a jelek additívak, egy elegy jele a komponensek jeleinek összege. K h = s elegy k= k x k

24 Universitas Eotvos Nominata II Itt s k a k-adik komponens érzékenysége, a h = f k (x) egyenes meredeksége, a h k / x k derivált. Tegyük fel, hogy a h i jel valamilyen spektrális érték, pl. tömegspektrometriás csúcsmagasság, valamilyen i-edik helyen. pl. tömegszámnál. A k-adik komponens érzékenysége az i helyen: s ik.

25 Universitas Eotvos Nominata II Ha K komponensű elegyet I helyen (tömegszámnál) elemeznek, akkor I x K darab érzékenység S érzékenység mátrixot alkot, és az elemzést a h = S*x összefüggés írja le. Részletesebben:

26 Universitas Eotvos Nominata II = K IK I ik i K I i x x s s s s s s h h h M L L L....

27 Universitas Eotvos Nominata II Vegyük észre, hogy S mátrix k-adik s (k) oszlopa nem más, mint a k-adik komponens tiszta spektruma: = = Ik ik k IK I ik i K Ik ik k s s s s s s s s s h h h L L L

28 Universitas Eotvos Nominata II Az elemzés sikerét pusztán matematikai szempontból S mátrix kondíciószáma jellemzi. Ha van olyan spektrumjel, amelyik csak egyetlen komponenst jelez, az elemzés szelektív, az S mátrix kvadratikus és diagonális. Az eredmény k egyváltozós egyenlet megoldásával adódik. S kondíciószáma ebben az esetben.

29 Universitas Eotvos Nominata II K komponens koncentrációjának meghatározásához elvben elég K spekrumhelyen mérni. A K spektrumjel optimális kiválasztása S kondíciójának figyelésével (is) célszerű. Az eredmények kiszámítására a legkisebb négyzetes regresszió algoritmusa (is) használható.

30 Universitas Eotvos Nominata II Kísérleti okokból általában párhuzamos spektrumokat vesznek fel, esetleg spektrumhelyek számát szaporítják. (I > K) A feladat ilyenkor már legkisebb négyzetes regressziót igényel, ahol a prediktor változók az érzékenységek, a válasz (response) változók a spektrumjelek, (csücsmagasságok). a kapott paraméterek a keresett koncentrációk..

31 Universitas Eotvos Nominata II Példa: Aromás szénhidrogének tömegspektruma.. Elektron ütközéses ionforrásban gázfázisú szénhidrogén molekulák darabokra törnek és ionizálódnak. A töltött ionokat mágneses és elektromos tér elválasztja és azok alkalmas detektorban parciális nyomásukkal arányos mérhető ionáramot keltenek.

32 Universitas Eotvos Nominata II A vizsgált aromás szénhidrogének: Vegyület jel képlet tömegszám toluol to C 7 H 8 92 ortoxilol ox C 8 H 0 06 metaxilol mx C 8 H 0 06 paraxilol px C 8 H 0 06 etilbenzol eb C 8 H 0 06

33 Universitas Eotvos Nominata II A szénhidrogének tömegsprektrumai m/e Ox mx px eb to

34 Universitas Eotvos Nominata II Column Profiles Column Profiles 00 Column ox mx px eb to rows

35 Universitas Eotvos Nominata II Matrix Condition Condition Number = Largest Eigval / Smallest Eigval Infinitely large = / Variables are highly collinear! ox is highly correlated with other variables

36 Universitas Eotvos Nominata II Ugyanez látszik a spektrumok korreláció mátrixából is. Correlation Matrix ox mx px eb mx px eb to

37 Universitas Eotvos Nominata II A példában 3 elegy összetételének meghatározását kiséreljük meg, 2-2 párhuzamos méréssel. A hat elegy (szimulált) spektrumait a következő táblázat mutatja..elegy.2elegy 2.elegy 2.2elegy 3.elegy 3.2elegy

38 Universitas Eotvos Nominata II A táblázat egy-egy oszlopa az S.x = y összefüggés egy-egy jobboldala, amiból az x összetételt az OLS (X T X) - X T y elóírásával kivánjuk megkapni. A SCAN program a megoldást megtagadja. OLS ERROR* Predictors are highly collinear

39 Universitas Eotvos Nominata II