Singuliere waarde-ontleding (SVD) versus hoofdcomponentenanalyse (PCA): verschil en vergelijking

De singuliere waarde-ontleding (SVD) is een van de meest gebruikte en voor alle doeleinden nuttige functies in numerieke lineaire algebra voor data-acquisitie, terwijl principale-componentenanalyse (PCA) een gevestigde methode is die veel theorieën over statistiek heeft geïntroduceerd.

PCA biedt ons met name een gegevensgestuurd hiërarchisch coördinatensysteem.

Key Takeaways

  1. SVD is een matrixfactorisatietechniek die van toepassing is op elke matrix, terwijl PCA een lineaire transformatie is die specifiek is voor covariantiematrices.
  2. PCA wordt gebruikt voor datacompressie en kenmerkextractie, terwijl SVD verschillende toepassingen heeft in signaalverwerking, datamining en het ophalen van informatie.
  3. SVD vereist geen gecentreerde gegevens, terwijl PCA het beste werkt met gecentreerde en genormaliseerde gegevens.

Enkelvoudige waarde-ontleding (SVD) versus analyse van hoofdcomponenten (PCA)

Singular Value Decomposition (SVD) is een ontbindingsmethode in lineaire algebra die elke reële of complexe matrix kan ontbinden. Principal Component Analysis (PCA) is een statistische procedure die gebruikmaakt van SVD of eigen-decompositie op de covariantie- of correlatiematrix om hoofdcomponenten te identificeren.

Enkelvoudige waarde-ontleding SVD versus hoofdcomponentenanalyse PCA

De singuliere waarde-ontleding (SVD) is de meest gebruikte functie in numerieke lineaire algebra. Het helpt bij het reduceren van gegevens tot de belangrijkste kenmerken die nodig zijn voor analyse, begrip en beschrijving.

De svd is een van de eerste elementen in de meeste gegevensvoorverwerking en machine learning algoritmen voor datareductie in het bijzonder. De SVD is een gegevensgestuurde generalisatie van Fourier-transformaties.

De principale componentenanalyse (PCA) is nu een statistisch hulpmiddel dat tal van ideeën heeft voortgebracht. Dit stelt ons in staat om een ​​hiërarchische reeks punten te gebruiken om statistische veranderingen uit te drukken.

PCA is een statistische/machine-intelligentietechniek die wordt gebruikt om de belangrijkste gegevenspatronen te bepalen die de algehele variatie maximaliseren. De maximale variantie wordt dus vastgelegd door een coördinatensysteem dat afhangt van de richtingen van de gegevens.

Vergelijkingstabel

Parameters van vergelijking:Singuliere Waarde Decompositie (SVD)Hoofdcomponentenanalyse (PCA)
VoorwaardenAbstracte wiskunde, matrixontleding en kwantumfysica vereisen allemaal SVD. Statistieken zijn bijzonder effectief in PCA voor het analyseren van gegevens uit het onderzoek.
UitdrukkingAlgebraïsche uitdrukkingen ontbinden.vergelijkbaar met het benaderen van gefactoriseerde uitdrukkingen.
MethodenHet is een methode in de abstracte wiskunde en matrixontleding.Het is een methode in Statistiek/Machine Learning.
TakHandig in de tak van de wiskunde.Handig in de tak van de wiskunde.
uitvindingDe SVD is uitgevonden door Eugenio Beltrami en Camille Jordan.De PCA is uitgevonden door Karl Pearson.

Wat is Singular Value Decomposition (SVD)?

De SVD is sterk verbonden met het deel van de eigenwaarde en eigenvectorfactorisatie van een positief bepaalde matrix.

Lees ook:  Formalisatie versus specialisatie: verschil en vergelijking

Hoewel niet alle matrices kunnen worden ontbonden als pt, kan elke m × n-matrix A worden ontbonden door toe te staan ​​dat deze aan de linkerkant en PT aan de rechterkant elke twee zijn orthogonale matrices U en vt (niet noodzakelijkerwijs transponeren van elkaar).

Dit type speciale ontbinding staat bekend als SVD.

De sinus- en cosinusuitbreidingen worden in alle wiskunde gebruikt om functies te benaderen, en FT is een van de nuttigste transformaties. Er zijn ook Bessel- en Airy-functies, evenals sferische harmonischen.

En in de vorige generatie informatica en techniek werd dit wiskundige model wiskundige transformatie gebruikt om een ​​interessant systeem om te zetten in een nieuw coördinatensysteem.

Een van de prominente algoritmen is SVD. Men zou lineaire algebra kunnen gebruiken om inkomsten te genereren.

Een van de handigste aspecten van het gebruik van lineaire algebra om winst te maken, is dat het wijdverspreid is, omdat het gebaseerd is op zeer eenvoudige en leesbare lineaire algebra die op elk moment kan worden gebruikt.

Als u een datamatrix heeft, kunt u de svd berekenen en interpreteerbare en begrijpelijke functies krijgen van waaruit u modellen kunt maken. Het is ook schaalbaar, dus het kan worden gebruikt op zeer grote datasets.

Elke matrixfactor is verdeeld in drie delen, die bekend staat als u Sigma v transponeren. Een orthogonale matrix is ​​een component u. De diagonale Matrix is ​​de factor Sigma.

De factor v transponeren is eveneens een orthogonale matrix, waardoor deze orthogonaal diagonaal of fysiek uitgerekt en roterend wordt.

Elke Matrix wordt ontbonden in een orthogonale Matrix door deze te vermenigvuldigen met een diagonale Matrix (de singuliere waarde) met een andere orthogonale Matrix: rotatie, time stretch, keer rotatie.

Wat is Principal Component Analyse (PCA)?

PCA is een gevestigde methode die veel theorieën over statistiek heeft geïntroduceerd. Het komt overeen met het benaderen van een gefactoriseerde bewering door de 'grootste' termen te behouden en alle kleinere 'termen te elimineren.

Lees ook:  Oefenhulpmiddel voor vermenigvuldiging

Het is een gevestigde methode die veel theorieën over statistiek heeft geïntroduceerd. PCA biedt ons met name een gegevensgestuurd hiërarchisch coördinatensysteem.

Principale componentenanalyse (PCA) wordt passende orthogonale decompositie genoemd. PCA is een methode om patronen in gegevens te identificeren door deze te definiëren in termen van overeenkomsten en verschillen.

In PCA is er een datamatrix X die een verzameling metingen van verschillende experimenten bevat, en twee onafhankelijke experimenten worden weergegeven als grote rijfactoren op x1,x2, enzovoort.

PCA is een dimensionaliteitsreductiebenadering die kan helpen bij het verkleinen van de dimensies van datasets die worden gebruikt bij machine learning-training. Het verlicht de gevreesde dimensionaliteitsvloek.

PCA is een methode om de belangrijkste kenmerken van een hoofdcomponent te bepalen die de meeste invloed hebben op de doelvariabele. PCA ontwikkelt een nieuwe functieprincipe-component.

Belangrijkste verschillen tussen Singuliere waarde-ontleding (SVD) en hoofdcomponentenanalyse (PCA)

  1. SVD is direct vergelijkbaar met factoring algebraïsche uitdrukkingen, terwijl PCA gelijk staat aan het benaderen van een gefactoriseerde bewering door de 'grootste' termen te behouden en alle kleinere 'termen te elimineren.
  2. Waarden in SVD zijn consistente getallen, en ontbinden in factoren is het proces om ze te ontbinden, terwijl PCA een statistische/machine-intelligentiemanier is om de belangrijkste aspecten te bepalen.
  3. De ontleding van de matrix in ortho-normale gebieden staat bekend als SVD, terwijl PCA kan worden berekend met behulp van SVD, hoewel het duurder is.
  4. SVD is een van de meest gebruikte en voor alle doeleinden nuttige functies in numerieke lineaire algebra voor data-acquisitie, terwijl PCA een gevestigde methode is die veel theorieën over statistiek heeft geïntroduceerd.
  5. SVD is een van de prominente algoritmen, terwijl PCA een dimensionaliteitsreductiebenadering is.
Referenties
  1. https://www.hindawi.com/journals/acisc/2021/6686759/
  2. https://www.tandfonline.com/doi/abs/10.1198/106186007X256080

Laatst bijgewerkt: 13 juli 2023

stip 1
Een verzoek?

Ik heb zoveel moeite gestoken in het schrijven van deze blogpost om jou van waarde te kunnen zijn. Het zal erg nuttig voor mij zijn, als je overweegt het te delen op sociale media of met je vrienden/familie. DELEN IS ️

Laat een bericht achter

Dit artikel bewaren voor later? Klik op het hartje rechtsonder om op te slaan in je eigen artikelenbox!