Dekompozicija singularne vrijednosti (SVD) u odnosu na analizu glavnih komponenti (PCA): razlika i usporedba

Dekompozicija singularne vrijednosti (SVD) jedna je od najopširnije korištenih i svenamjenskih korisnih značajki u numeričkoj linearnoj algebri za prikupljanje podataka, dok je analiza glavnih komponenti (PCA) dobro uspostavljena metoda koja je uvela mnoge teorije o statistici.

Konkretno, PCA nam pruža hijerarhijski koordinatni sustav temeljen na podacima.

Ključni za poneti

  1. SVD je tehnika faktorizacije matrice koja se primjenjuje na bilo koju matricu, dok je PCA linearna transformacija specifična za matrice kovarijance.
  2. PCA se koristi za kompresiju podataka i ekstrakciju značajki, dok SVD ima različite primjene u obradi signala, rudarenju podataka i pronalaženju informacija.
  3. SVD ne zahtijeva centrirane podatke, dok PCA najbolje radi s centriranim i normaliziranim podacima.

Dekompozicija singularne vrijednosti (SVD) u odnosu na analizu glavnih komponenti (PCA)

Dekompozicija singularne vrijednosti (SVD) je metoda faktorizacije u linearnoj algebri koja može rastaviti bilo koju realnu ili kompleksnu matricu. Analiza glavnih komponenti (PCA) je statistički postupak koji koristi SVD ili vlastitu dekompoziciju na kovarijancijskoj ili korelacijskoj matrici za identifikaciju glavnih komponenti.

Dekompozicija singularne vrijednosti SVD nasuprot PCA analize glavnih komponenti

Dekompozicija singularne vrijednosti (SVD) najčešća je značajka u numeričkoj linearnoj algebri. Pomaže u redukciji podataka u ključne značajke potrebne za analizu, razumijevanje i opis.

Svd je jedan od prvih elemenata u većini pretprocesiranja podataka i stroj za učenje posebno algoritme za smanjenje podataka. SVD je generalizacija Fourierove transformacije vođena podacima.

Analiza glavnih komponenti (PCA) sada je statistički alat koji je iznjedrio brojne ideje. To će nam omogućiti korištenje hijerarhijskog skupa točaka za izražavanje statističkih promjena.

PCA je tehnika statističke/strojne inteligencije koja se koristi za određivanje glavnih obrazaca podataka koji maksimiziraju ukupnu varijaciju. Dakle, maksimalnu varijancu hvata koordinatni sustav ovisno o smjerovima podataka.

Tabela za usporedbu

Parametri usporedbeDekompozicija singularne vrijednosti (SVD)Analiza glavne komponente (PCA)
ZahtjeviApstraktna matematika, dekompozicija matrice i kvantna fizika zahtijevaju SVD. Statistika je posebno učinkovita u PCA za analizu podataka iz istraživanja.
IzrazRastavljanje algebarskih izraza na faktore.slično aproksimaciji faktoriziranih izraza.
MetodeTo je metoda u apstraktnoj matematici i dekompoziciji matrice.To je metoda u statistici/strojnom učenju.
GranaOd pomoći u grani matematike.Od pomoći u grani matematike.
IzumSVD su izumili Eugenio Beltrami i Camille Jordan.PCA je izumio Karl Pearson.

Što je dekompozicija singularne vrijednosti (SVD)?

SVD je snažno povezan s dijelom svojstvene vrijednosti pozitivno određene matrice i faktorizacijom svojstvenog vektora.

Također pročitajte:  Formalizacija nasuprot specijalizaciji: razlika i usporedba

Iako se ne mogu sve matrice faktorizirati kao pt, bilo koja m×n matrica A može se faktorizirati dopuštanjem da na lijevoj strani i PT na desnoj strani budu bilo koja dva ortogonalna matrice U i vt (ne moraju nužno transponirati jedna drugu).

Ova vrsta posebne faktorizacije poznata je kao SVD.

Sinusna i kosinusna proširenja koriste se u cijeloj matematici za aproksimaciju funkcija, a FT je jedna od najkorisnijih transformacija. Tu su i Besselova i Airyjeva funkcija, kao i sferni harmonici.

A u prethodnoj generaciji računalne znanosti i inženjerstva, ovaj matematički model matematičke transformacije korišten je za prijenos sustava od interesa u novi koordinatni sustav.

Jedan od istaknutih algoritama je SVD. Može se koristiti linearna algebra za stvaranje prihoda.

Jedan od najkorisnijih aspekata korištenja linearne algebre za ostvarivanje profita je to što je široko rasprostranjena jer se temelji na vrlo jednostavnoj i čitljivoj linearnoj algebri koja se može koristiti u bilo kojem trenutku.

Ako imate Data Matrix, možete izračunati svd i dobiti interpretabilne i razumljive značajke iz kojih možete kreirati modele. Također je skalabilan, stoga se može koristiti na vrlo velikim skupovima podataka.

Svaki faktor matrice podijeljen je u tri dijela, što je poznato kao u Sigma v transponiranje. Ortogonalna matrica je komponenta u. Dijagonalna matrica je faktor Sigma.

Faktor v transponiranja također je ortogonalna matrica, što je čini ortogonalno dijagonalnom ili se fizički rasteže i rotira.

Svaka se matrica rastavlja u ortogonalnu matricu množenjem s dijagonalnom matricom (singularna vrijednost) s drugom ortogonalnom matricom: rotacija, vremensko rastezanje, puta rotacija.

Što je analiza glavnih komponenti (PCA)?

PCA je dobro uspostavljena metoda koja je uvela mnoge teorije o statistici. To je ekvivalentno aproksimaciji faktoriziranog iskaza održavanjem 'najvećih' članova i eliminacijom svih manjih' članova.

Također pročitajte:  Alat za vježbu množenja

To je dobro uspostavljena metoda koja je uvela mnoge teorije o statistici. Konkretno, PCA nam pruža hijerarhijski koordinatni sustav temeljen na podacima.

Analiza glavnih komponenti (PCA) naziva se odgovarajuća ortogonalna dekompozicija. PCA je metoda za prepoznavanje uzoraka u podacima definiranjem istih u smislu sličnosti i razlika.

U PCA postoji podatkovna matrica X koja sadrži zbirku mjerenja iz različitih eksperimenata, a dva neovisna eksperimenta predstavljena su kao veliki faktori reda na x1, x2 itd.

PCA je pristup smanjenju dimenzionalnosti koji može pomoći u smanjenju dimenzija skupova podataka koji se koriste u obuci strojnog učenja. Ublažava zastrašujuće prokletstvo dimenzionalnosti.

PCA je metoda za određivanje najvažnijih karakteristika glavne komponente koje imaju najveći utjecaj na ciljnu varijablu. PCA razvija novu komponentu načela značajke.

Glavne razlike između Dekompozicija singularne vrijednosti (SVD) i analiza glavnih komponenti (PCA)

  1. SVD je izravno usporediv s faktoring algebarski izrazi, dok je PCA ekvivalentan aproksimaciji faktorizirane izjave održavanjem 'najvećih' članova i eliminacijom svih manjih' članova.
  2. Vrijednosti u SVD-u su dosljedni brojevi, a faktorizacija je proces njihove dekompozicije, dok je PCA način statističke/strojne inteligencije za određivanje glavnih aspekata.
  3. Dekompozicija matrice na orto-normalna područja poznata je kao SVD, dok se PCA može izračunati pomoću SVD-a, iako je skuplji.
  4. SVD je jedna od najopširnije korištenih i svenamjenskih korisnih značajki u numeričkoj linearnoj algebri za prikupljanje podataka, dok je PCA dobro uspostavljena metoda koja je uvela mnoge teorije o statistici.
  5. SVD je jedan od istaknutih algoritama, dok je PCA pristup smanjenju dimenzionalnosti.
Reference
  1. https://www.hindawi.com/journals/acisc/2021/6686759/
  2. https://www.tandfonline.com/doi/abs/10.1198/106186007X256080

Zadnje ažuriranje: 13. srpnja 2023

točka 1
Jedan zahtjev?

Uložio sam mnogo truda u pisanje ovog posta na blogu kako bih vam pružio vrijednost. Bit će mi od velike pomoći ako razmislite o tome da to podijelite na društvenim medijima ili sa svojim prijateljima/obitelji. DIJELJENJE JE ♥️

Ostavite komentar

Želite li spremiti ovaj članak za kasnije? Kliknite srce u donjem desnom kutu da biste ga spremili u svoj okvir za članke!