A lasszó úgy hajtja végre a zsugorodást, hogy a kényszerben „sarkok” vannak, ami két dimenzióban egy gyémántnak felel meg. Ha a négyzetek összege „elüti” az egyik sarkot, akkor a tengelynek megfelelő együttható nullára zsugorodik. … Ezért a lasszó zsugorítást és (hatékonyan) részhalmaz-kiválasztást hajt végre.
Miért ad a lasszó nulla együtthatót?
A lasszó úgy hajtja végre a zsugorodást, hogy a kényszerben „sarkok” vannak, ami két dimenzióban egy gyémántnak felel meg. Ha a négyzetek összege „elüti” az egyik sarkot, akkor a tengelynek megfelelő együttható nullára csökken.
Miért zsugorodik a lasszó nullára, de a Ridge nem?
Azt mondják, hogy mivel a LASSO kényszer alakja egy gyémánt, a kapott legkisebb négyzetek megoldása érintheti a gyémánt sarkát úgy, hogy az valamilyen változó zsugorodásához vezet. A gerincregresszióban azonban, mivel ez egy kör, gyakran nem érinti a tengelyt
Miért csökkenti a gerincregressziós együtthatókat?
Ridge regression az összes regressziós együtthatót nullára csökkenti; a lasszó nulla regressziós együtthatót ad, és ritka megoldáshoz vezet. Vegye figyelembe, hogy mind a gerincregresszió, mind a lasszó esetében a regressziós együtthatók pozitívról negatívra változhatnak, ahogy nulla felé zsugorodik.
Elfogultak a lasszó együtthatók?
…a lasszó zsugorodása miatt a nem nulla együtthatók becslései nulla felé torzulnak, és általában nem következetesek [Hozzáadott megjegyzés: Ez azt jelenti, hogy mivel a a minta mérete nő, az együttható becslései nem konvergálnak].
