Singular Value Decomposition (SVD) vs pääkomponenttianalyysi (PCA): ero ja vertailu

Singular value decomposition (SVD) on yksi laajimmin käytetyistä ja yleisimmistä hyödyllisistä ominaisuuksista numeerisessa lineaarisessa algebrassa tiedonkeruussa, kun taas pääkomponenttianalyysi (PCA) on vakiintunut menetelmä, joka on tuonut esiin paljon teorioita tilastoista.

Erityisesti PCA tarjoaa meille tietopohjaisen hierarkkisen koordinaattijärjestelmän.

Keskeiset ostokset

1. SVD on matriisifaktorointitekniikka, joka koskee mitä tahansa matriisia, kun taas PCA on kovarianssimatriiseille spesifinen lineaarinen muunnos.
2. PCA:ta käytetään tiedon pakkaamiseen ja ominaisuuksien poimimiseen, kun taas SVD:llä on useita sovelluksia signaalinkäsittelyssä, tiedon louhinnassa ja tiedonhaussa.
3. SVD ei vaadi keskitettyä dataa, kun taas PCA toimii parhaiten keskitetyn ja normalisoidun tiedon kanssa.

Singular Value Decomposition (SVD) vs pääkomponenttianalyysi (PCA)

Singular Value Decomposition (SVD) on lineaarialgebran faktorointimenetelmä, joka voi hajottaa minkä tahansa todellisen tai kompleksisen matriisin. Pääkomponenttianalyysi (PCA) on tilastollinen menettely, joka käyttää SVD:tä tai ominaishajottelua kovarianssi- tai korrelaatiomatriisissa pääkomponenttien tunnistamiseen.

Singular value decomposition (SVD) on laajimmin käytetty ominaisuus numeerisessa lineaarisessa algebrassa. Se auttaa vähentämään dataa keskeisiksi ominaisuuksiksi, joita tarvitaan analysointia, ymmärtämistä ja kuvaamista varten.

svd on yksi ensimmäisistä elementeistä useimmissa tietojen esikäsittelyssä ja koneoppiminen algoritmeja erityisesti tietojen vähentämiseen. SVD on dataohjattu Fourier-muunnosyleistys.

Pääkomponenttianalyysi (PCA) on nyt tilastollinen työkalu, joka on synnyttänyt useita ideoita. Tämä antaa meille mahdollisuuden käyttää hierarkkista pistejoukkoa tilastollisten muutosten ilmaisemiseen.

PCA on tilastollinen/koneälytekniikka, jota käytetään määrittämään tärkeimmät datamallit, jotka maksimoivat yleisen vaihtelun. Joten maksimivarianssi kaapataan koordinaattijärjestelmällä datan suunnista riippuen.

Vertailu Taulukko

Vertailun parametrit	Yksittäisen arvon hajoaminen (SVD)	Pääkomponenttianalyysi (PCA)
vaatimukset	Abstrakti matematiikka, matriisin hajottaminen ja kvanttifysiikka vaativat kaikki SVD:n.	Tilastot ovat erityisen tehokkaita PCA:ssa tutkimuksen tietojen analysoinnissa.
Ilmaisu	Algebrallisten lausekkeiden faktorointi.	samanlainen kuin faktoroitujen lausekkeiden approksimointi.
Menetelmät	Se on abstraktin matematiikan ja matriisin hajotuksen menetelmä.	Se on tilastojen/koneoppimisen menetelmä.
Sivuliike	Auttaa matematiikan alalla.	Auttaa matematiikan alalla.
keksintö	SVD:n keksivät Eugenio Beltrami ja Camille Jordan.	PCA:n keksi Karl Pearson.

Mikä on singulaarinen hajoaminen (SVD)?

SVD on vahvasti sidoksissa positiivisen määrätyn matriisin ominaisarvon ja ominaisvektorin tekijöihin.

Vaikka kaikkia matriiseja ei voida kertoa pisteiksi pt, mikä tahansa m × n matriisi A voidaan kertoa sallimalla sen vasemmalla ja PT oikealla olla mitkä tahansa kaksi ortogonaaliset matriisit U ja vt (eivät välttämättä transponoi toisiaan).

Tämän tyyppinen erityinen faktorointi tunnetaan nimellä SVD.

Sini- ja kosinilaajennuksia käytetään kaikessa matematiikassa funktioiden approksimoimiseen, ja FT on yksi hyödyllisimmistä muunnoksista. Mukana on myös Bessel- ja Airy-funktioita sekä pallomaisia ​​harmonisia.

Ja edellisen sukupolven tietojenkäsittelytieteen ja tekniikan alalla tätä matemaattisen mallin matemaattista muunnosa käytettiin kiinnostavan järjestelmän siirtämiseen uudeksi koordinaattijärjestelmäksi.

Yksi merkittävimmistä algoritmeista on SVD. Voidaan käyttää lineaarista algebraa tulojen tuottamiseen.

Yksi hyödyllisimmistä näkökohdista lineaarisen algebran käyttämisessä voiton saamiseksi on, että se on laajalle levinnyt, koska se perustuu erittäin yksinkertaiseen ja luettavaan lineaariseen algebraan, jota voidaan käyttää milloin tahansa.

Jos sinulla on Data Matrix, voit laskea svd:n ja saada tulkittavia ja ymmärrettäviä ominaisuuksia, joista voit luoda malleja. Se on myös skaalautuva, joten sitä voidaan käyttää erittäin suurissa tietojoukoissa.

Jokainen matriisitekijä on jaettu kolmeen osaan, jotka tunnetaan nimellä u Sigma v transpose. Ortogonaalinen matriisi on komponentti u. Diagonaalimatriisi on kerroin Sigma.

Tekijä v transponoi on myös ortogonaalinen matriisi, mikä tekee siitä ortogonaalisen diagonaalin tai fyysisesti venyvän ja pyörivän.

Jokainen matriisi otetaan huomioon ortogonaalimatriisissa kertomalla se diagonaalisella matriisilla (singulaarinen arvo) toisella ortogonaalisella matriisilla: rotaatio, aikavenymä, kiertokierto.

Mikä on pääkomponenttianalyysi (PCA)?

PCA on vakiintunut menetelmä, joka on tuonut esiin paljon teorioita tilastoista. Se vastaa tekijöihin perustuvan lausekkeen likiarvoa säilyttämällä "suurimmat" termit ja poistamalla kaikki pienemmät termit.

Se on vakiintunut menetelmä, joka on tuonut esiin paljon teorioita tilastoista. Erityisesti PCA tarjoaa meille tietopohjaisen hierarkkisen koordinaattijärjestelmän.

Pääkomponenttianalyysiä (PCA) kutsutaan sopivaksi ortogonaaliseksi hajotukseksi. PCA on menetelmä datan kuvioiden tunnistamiseen määrittelemällä ne yhtäläisyyksien ja erojen perusteella.

PCA:ssa on datamatriisi X, joka sisältää kokoelman mittauksia eri kokeista, ja kaksi riippumatonta koetta esitetään suurina rivikertoimina kohdissa x1, x2 ja niin edelleen.

PCA on ulottuvuuden vähentämismenetelmä, joka voi auttaa koneoppimiskoulutuksessa käytettävien tietojoukkojen mittojen pienentämisessä. Se lievittää pelättyä ulottuvuuden kirousta.

PCA on menetelmä pääkomponentin tärkeimpien ominaisuuksien määrittämiseksi, joilla on suurin vaikutus kohdemuuttujaan. PCA kehittää uuden ominaisuusperiaatteen komponentin.

Tärkeimmät erot Singular Value Decomposition (SVD) ja pääkomponenttianalyysi (PCA)

1. SVD on suoraan verrattavissa factoring algebrallisia lausekkeita, kun taas PCA vastaa faktorisoidun lausekkeen approksimointia säilyttämällä "suurimmat" termit ja eliminoimalla kaikki pienemmät termit.
2. SVD:n arvot ovat johdonmukaisia ​​lukuja, ja tekijöiden jakaminen on prosessi, jossa ne hajotetaan, kun taas PCA on tilastollinen/koneäly tapa määrittää tärkeimmät näkökohdat.
3. Matriisin hajoaminen orto-normaaleiksi alueiksi tunnetaan nimellä SVD, kun taas PCA voidaan laskea SVD:llä, vaikka se onkin kalliimpi.
4. SVD on yksi laajimmin käytetyistä ja yleisimmistä hyödyllisistä ominaisuuksista numeerisessa lineaarisessa algebrassa tiedonkeruussa, kun taas PCA on vakiintunut menetelmä, joka on tuonut esiin paljon tilastollisia teorioita.
5. SVD on yksi merkittävimmistä algoritmeista, kun taas PCA on ulottuvuuden vähentämistä koskeva lähestymistapa.

Viitteet

1. https://www.hindawi.com/journals/acisc/2021/6686759/
2. https://www.tandfonline.com/doi/abs/10.1198/106186007X256080

Viimeksi päivitetty: 13. heinäkuuta 2023