Singular Value Decomposition (SVD) vs Principal Component Analysis (PCA): differenza e confronto

La decomposizione del valore singolare (SVD) è tra le funzionalità più ampiamente utilizzate e utili per tutti gli usi nell'algebra lineare numerica per l'acquisizione dei dati, mentre l'analisi delle componenti principali (PCA) è un metodo consolidato che ha introdotto molte teorie sulla statistica.

In particolare, PCA ci fornisce un sistema di coordinate gerarchico basato sui dati.

Punti chiave

  1. SVD è una tecnica di fattorizzazione matriciale che si applica a qualsiasi matrice, mentre PCA è una trasformazione lineare specifica per matrici di covarianza.
  2. PCA viene utilizzato per la compressione dei dati e l'estrazione di funzionalità, mentre SVD ha varie applicazioni nell'elaborazione del segnale, nel data mining e nel recupero delle informazioni.
  3. SVD non richiede dati centrati, mentre PCA funziona meglio con dati centrati e normalizzati.

Singular Value Decomposition (SVD) rispetto all'analisi delle componenti principali (PCA)

Singular Value Decomposition (SVD) è un metodo di fattorizzazione in algebra lineare che può scomporre qualsiasi matrice reale o complessa. L'analisi delle componenti principali (PCA) è una procedura statistica che utilizza la SVD o la decomposizione dell'auto sulla covarianza o sulla matrice di correlazione per identificare le componenti principali.

Decomposizione del valore singolare SVD vs Analisi delle componenti principali PCA

La decomposizione del valore singolare (SVD) è la caratteristica più ampiamente utilizzata nell'algebra lineare numerica. Aiuta a ridurre i dati nelle caratteristiche chiave richieste per l'analisi, la comprensione e la descrizione.

L'svd è uno dei primi elementi nella maggior parte della pre-elaborazione dei dati e machine learning algoritmi per la riduzione dei dati in particolare. L'SVD è una generalizzazione della trasformata di Fourier basata sui dati.

L'analisi delle componenti principali (PCA) è ora uno strumento statistico che ha generato numerose idee. Questo ci consentirà di utilizzare un insieme gerarchico di punti per esprimere i cambiamenti statistici.

La PCA è una tecnica statistica/di intelligenza artificiale utilizzata per determinare i principali modelli di dati che massimizzano la variazione complessiva. Quindi la varianza massima viene catturata da un sistema di coordinate a seconda delle direzioni dei dati.

Tavola di comparazione

Parametri di confrontoDecomposizione valore singolare (SVD)Analisi dei componenti principali (PCA)
RequisitiLa matematica astratta, la decomposizione della matrice e la fisica quantistica richiedono tutte SVD. Le statistiche sono particolarmente efficaci in PCA per l'analisi dei dati della ricerca.
EspressioneFattorizzazione di espressioni algebriche.simile all'approssimazione di espressioni fattorizzate.
MetodiÈ un metodo in matematica astratta e decomposizione di matrici.È un metodo in Statistica/Machine Learning.
Branch di societàUtile nel ramo della matematica.Utile nel ramo della matematica.
InvenzioneLa SVD è stata inventata da Eugenio Beltrami e Camille Jordan.Il PCA è stato inventato da Karl Pearson.

Che cos'è la decomposizione del valore singolare (SVD)?

La SVD è fortemente legata alla parte dell'autovalore e alla fattorizzazione degli autovettori di una Matrice definita positiva.

Leggi anche:  Calcolatore di conversione angolare

Sebbene non tutte le matrici possano essere fattorizzate come pt, qualsiasi matrice m×n A può essere fattorizzata consentendole a sinistra e PT a destra di essere qualsiasi due ortogonale matrici U e vt (non necessariamente trasposte l'una dall'altra).

Questo tipo di fattorizzazione speciale è noto come SVD.

Le espansioni di seno e coseno sono usate in tutta la matematica per approssimare le funzioni, e FT è una delle trasformazioni più utili. Ci sono anche funzioni di Bessel e Airy, così come armoniche sferiche.

E, nella precedente generazione di informatica e ingegneria, questa trasformazione matematica del modello matematico veniva utilizzata per trasferire un sistema di interesse in un nuovo sistema di coordinate.

Uno degli algoritmi di spicco è SVD. Si potrebbe usare l'algebra lineare per generare entrate.

Uno degli aspetti più utili dell'utilizzo dell'algebra lineare per realizzare un profitto è che è molto diffuso poiché si basa su un'algebra lineare molto semplice e leggibile che può essere utilizzata in qualsiasi momento.

Se disponi di un Data Matrix, puoi calcolare l'svd e ottenere caratteristiche interpretabili e intelligibili da cui puoi creare modelli. È anche scalabile, quindi può essere utilizzato su set di dati molto grandi.

Ogni fattore di matrice è diviso in tre parti, note come u Sigma v transpose. Una Matrice ortogonale è una componente u. La matrice diagonale è il fattore Sigma.

Anche il fattore v transpose è una matrice ortogonale, che la rende diagonale ortogonale o che si allunga e ruota fisicamente.

Ogni Matrice viene scomposta in una Matrice ortogonale moltiplicandola per una Matrice diagonale (il valore singolare) per un'altra Matrice ortogonale: rotazione, allungamento temporale, rotazione volte.

Che cos'è l'analisi delle componenti principali (PCA)?

PCA è un metodo consolidato che ha introdotto molte teorie sulla statistica. È equivalente all'approssimazione di un'affermazione fattorizzata mantenendo i termini "più grandi" ed eliminando tutti i termini "più piccoli".

Leggi anche:  Abilità vs attitudine: differenza e confronto

È un metodo consolidato che ha introdotto molte teorie sulla statistica. In particolare, PCA ci fornisce un sistema di coordinate gerarchico basato sui dati.

L'analisi delle componenti principali (PCA) viene definita scomposizione ortogonale appropriata. La PCA è un metodo per identificare modelli nei dati definendoli in termini di somiglianze e differenze.

In PCA esiste una matrice di dati X che contiene una raccolta di misurazioni di diversi esperimenti e due esperimenti indipendenti sono rappresentati come fattori di riga grandi in x1, x2 e così via.

PCA è un approccio di riduzione della dimensionalità che può aiutare a ridurre le dimensioni dei set di dati utilizzati nell'addestramento dell'apprendimento automatico. Allevia la temuta maledizione della dimensionalità.

PCA è un metodo per determinare le caratteristiche più importanti di un componente principale che hanno la maggiore influenza sulla variabile target. PCA sviluppa un nuovo componente del principio di funzionalità.

Principali differenze tra Singular Value Decomposition (SVD) e analisi delle componenti principali (PCA)

  1. SVD è direttamente paragonabile a factoring espressioni algebriche, mentre PCA equivale ad approssimare un'affermazione fattorizzata mantenendo i termini "più grandi" ed eliminando tutti i termini "più piccoli".
  2. I valori in SVD sono numeri coerenti e la fattorizzazione è il processo di scomposizione, mentre PCA è un modo statistico/di intelligenza artificiale per determinare gli aspetti principali.
  3. La scomposizione della matrice in aree orto-normali è nota come SVD, mentre la PCA può essere calcolata utilizzando SVD, sebbene abbia un prezzo più elevato.
  4. SVD è tra le funzionalità più ampiamente utilizzate e utili per tutti gli usi nell'algebra lineare numerica per l'acquisizione dei dati, mentre PCA è un metodo consolidato che ha introdotto molte teorie sulla statistica.
  5. SVD è uno degli algoritmi di spicco, mentre PCA è un approccio di riduzione della dimensionalità.
Riferimenti
  1. https://www.hindawi.com/journals/acisc/2021/6686759/
  2. https://www.tandfonline.com/doi/abs/10.1198/106186007X256080

Ultimo aggiornamento: 13 luglio 2023

punto 1
Una richiesta?

Ho messo così tanto impegno scrivendo questo post sul blog per fornirti valore. Sarà molto utile per me, se pensi di condividerlo sui social media o con i tuoi amici/familiari. LA CONDIVISIONE È ♥️

Lascia un tuo commento

Vuoi salvare questo articolo per dopo? Fai clic sul cuore nell'angolo in basso a destra per salvare nella casella dei tuoi articoli!