Lináris inverzió egyidejűleg túl- és alulhatározott problémák esetén

(Az egyidejűleg túl- és alulhatározott problémákat kevert határozottságú problémának is nevezzük.)

A legkisebb négyzetes becslés során feltételeztük, hogy elegendő információval rendelkezünk ahhoz, hogy az ellentmondó egyenletek ellenére az összes modellparamétert meghatározzuk. Ez a tisztán túlhatározott probléma esete, ahol  egy invertálható mátrix.

A minimum norma becslés során pedig azt tételeztük fel, hogy az egyenletek között semmi ellentmondás sincs, azonban nincs elegendő információnk ahhoz, hogy az összes ismeretlen modellparamétert meghatározzuk. Ez a tisztán alulhatározott probléma esete, ahol  invertálható.

A gyakorlatban a második eset nem szokott előfordulni. Általában mindig vannak olyan modellparaméterek, amelyekre vonatkozólag ellentmondó információink vannak, és egyidejűleg vannak olyan modellparaméterek is, amelyekről semmilyen információt sem adnak a mérési adatok. Emiatt sem , sem nem invertálható. De ha ezek az inverzek formálisan léteznek is, a probléma rosszul meghatározott (ill-conditioned), azaz az adatok kis megváltozása nagy változást okoz a modellparaméterekben. Ez azt jelenti, hogy a megoldás nagyon érzékeny a mérési hibákra. Ennek elkerülésére vezette be Levenberg 1944-ben a csillapított (regularizált) legkisebb négyzetes megoldást.

A problémát az okozza, hogy az  mátrix zérus, vagy közel zérus sajátértékekkel rendelkezik. Emiatt a mátrix rangja kisebb mint a mátrix dimenziója, így a hagyományos inverz nem értelmezhető.

Jelöljük az M mátrix sajátértékeit λn-nel, sajátvektorait pedig vn-nel:

(6.16)

Egy skálázott egységvektor hozzáadásával megnövelhetjük az eredeti mátrix sajátértékeit:

(6.17)

Ezt az eredményt felhasználhatjuk a lineáris inverziós probléma megoldásához:

(6.18)

A kvadratikus formula segítségével levezethető, hogy mátrix sajátértékei nem negatívak. Ekkor a pozitív γ esetén a zárójeles kifejezésben szereplő mátrix sajátértékei mind különbözni fognak nullától. Ennek következtében a mátrix rangja megegyezik a mátrix dimenziójával, és így invertálhatóvá válik. Ezzel az eredeti célkitűzést teljesítettük.

A fenti eredményre jutunk, a

(6.19)

mennyiség (kritériumfüggvény) minimalizálásakor. A függvényen látszik, hogy a bal oldali tag a tisztán túlhatározott problémák esetén fellépő legkisebb négyzetes illesztést jelenti, a jobb oldali tag viszont a tisztán alulhatározott probléma esetén alkalmazott minimum norma becslést a csillapítási tényezővel megszorozva. Eszerint ha γ = 0, akkor visszakapjuk a legkisebb négyzetes megoldást, ha γ >> 1 esetben viszont a jobb oldali tag dominál, így a minimum norma megoldást kapjuk.

Ezt a fenti eredményt a gyakorlatban is alkalmazzuk a „Csillapított (regularizált) legkisebb négyzetes becslés ” c. fejezetben.