Die Singulärwertzerlegung (SVD) gehört zu den am häufigsten verwendeten und universell hilfreichen Funktionen in der numerischen linearen Algebra für die Datenerfassung, während die Hauptkomponentenanalyse (PCA) eine etablierte Methode ist, die viele Theorien zur Statistik eingeführt hat.
Insbesondere stellt uns PCA ein datengetriebenes hierarchisches Koordinatensystem zur Verfügung.
Key Take Away
- SVD ist eine Matrixfaktorisierungstechnik, die auf jede Matrix anwendbar ist, während PCA eine lineare Transformation ist, die spezifisch für Kovarianzmatrizen ist.
- PCA wird zur Datenkomprimierung und Merkmalsextraktion verwendet, während SVD verschiedene Anwendungen in der Signalverarbeitung, beim Data Mining und beim Abrufen von Informationen hat.
- SVD erfordert keine zentrierten Daten, während PCA am besten mit zentrierten und normalisierten Daten funktioniert.
Singular Value Decomposition (SVD) vs. Hauptkomponentenanalyse (PCA)
Singular Value Decomposition (SVD) ist eine Faktorisierungsmethode in der linearen Algebra, die jede reelle oder komplexe Matrix zerlegen kann. Die Hauptkomponentenanalyse (PCA) ist ein statistisches Verfahren, das SVD oder Eigenzerlegung auf der Kovarianz- oder Korrelationsmatrix verwendet, um Hauptkomponenten zu identifizieren.
Die Singulärwertzerlegung (SVD) ist die am häufigsten verwendete Funktion in der numerischen linearen Algebra. Es hilft bei der Reduzierung von Daten auf die Schlüsselmerkmale, die für die Analyse, das Verständnis und die Beschreibung erforderlich sind.
Die svd ist eines der ersten Elemente in den meisten Datenvorverarbeitungen und Maschinelles Lernen insbesondere Algorithmen zur Datenreduktion. Die SVD ist eine datengetriebene Fourier-Transformationsverallgemeinerung.
Die Hauptkomponentenanalyse (PCA) ist heute ein statistisches Werkzeug, das zahlreiche Ideen hervorgebracht hat. Dadurch können wir einen hierarchischen Satz von Punkten verwenden, um statistische Änderungen auszudrücken.
PCA ist eine statistische/maschinelle Intelligenztechnik, die verwendet wird, um die wichtigsten Datenmuster zu bestimmen, die die Gesamtvariation maximieren. Daher wird die maximale Abweichung von einem Koordinatensystem in Abhängigkeit von den Richtungen der Daten erfasst.
Vergleichstabelle
| Vergleichsparameter | Singulärwertzerlegung (SVD) | Hauptkomponentenanalyse (PCA) |
|---|---|---|
| Voraussetzungen: | Abstrakte Mathematik, Matrixzerlegung und Quantenphysik erfordern alle SVD. | Statistiken sind in PCA besonders effektiv, um Daten aus der Forschung zu analysieren. |
| Ausdruck | Faktorisieren von algebraischen Ausdrücken. | ähnlich der Annäherung von faktorisierten Ausdrücken. |
| Methoden | Es ist eine Methode in der abstrakten Mathematik und der Matrixzerlegung. | Es ist eine Methode in Statistik/Machine Learning. |
| Filiale | Hilfreich im Bereich Mathematik. | Hilfreich im Bereich Mathematik. |
| Erfindung | Die SVD wurde von Eugenio Beltrami und Camille Jordan erfunden. | Der PCA wurde von Karl Pearson erfunden. |
Was ist die Singulärwertzerlegung (SVD)?
Die SVD ist stark mit dem Eigenwert und der Eigenvektorfaktorisierung des Teils einer positiven definiten Matrix verbunden.
Obwohl nicht alle Matrizen als pt faktorisiert werden können, kann jede m × n-Matrix A faktorisiert werden, indem ihr erlaubt wird, dass sie links und PT rechts beliebige zwei sind senkrecht Matrizen U und vt (nicht unbedingt transponieren).
Diese Art der speziellen Faktorisierung ist als SVD bekannt.
Die Sinus- und Cosinus-Erweiterungen werden in der gesamten Mathematik verwendet, um Funktionen zu approximieren, und FT ist eine der nützlichsten Transformationen. Es gibt auch Bessel- und Airy-Funktionen sowie sphärische Harmonische.
Und in der früheren Generation der Informatik und Ingenieurwissenschaften wurde diese mathematische Modelltransformation verwendet, um ein interessierendes System in ein neues Koordinatensystem zu übertragen.
Einer der bekanntesten Algorithmen ist SVD. Man könnte lineare Algebra verwenden, um Einnahmen zu generieren.
Einer der nützlichsten Aspekte der Verwendung von linearer Algebra zur Erzielung von Gewinn ist, dass sie weit verbreitet ist, da sie auf einer sehr einfachen und lesbaren linearen Algebra basiert, die jederzeit verwendet werden kann.
Wenn Sie eine Datenmatrix haben, können Sie die svd berechnen und interpretierbare und verständliche Merkmale erhalten, aus denen Sie Modelle erstellen können. Es ist auch skalierbar und kann daher für sehr große Datensätze verwendet werden.
Jeder Matrixfaktor ist in drei Teile unterteilt, was als u Sigma v Transponierung bekannt ist. Eine orthogonale Matrix ist eine Komponente u. Die diagonale Matrix ist der Faktor Sigma.
Die Faktor-v-Transponierung ist ebenfalls eine orthogonale Matrix, wodurch sie orthogonal diagonal oder physikalisch gestreckt und gedreht wird.
Jede Matrix wird in eine orthogonale Matrix zerlegt, indem sie mit einer diagonalen Matrix (dem Singularwert) mit einer anderen orthogonalen Matrix multipliziert wird: Rotation, Zeitdehnung, Zeitrotation.
Was ist die Hauptkomponentenanalyse (PCA)?
PCA ist eine etablierte Methode, die viele Theorien zur Statistik eingeführt hat. Es entspricht der Approximation einer faktorisierten Aussage, indem die „größten“ Terme beibehalten und alle kleineren Terme eliminiert werden.
Es ist eine etablierte Methode, die viele Theorien zur Statistik eingeführt hat. Insbesondere stellt uns PCA ein datengetriebenes hierarchisches Koordinatensystem zur Verfügung.
Die Hauptkomponentenanalyse (PCA) wird als geeignete orthogonale Zerlegung bezeichnet. PCA ist eine Methode zur Identifizierung von Mustern in Daten, indem sie anhand von Ähnlichkeiten und Unterschieden definiert werden.
In PCA gibt es eine Datenmatrix X, die eine Sammlung von Messungen aus verschiedenen Experimenten enthält, und zwei unabhängige Experimente werden als große Zeilenfaktoren bei x1, x2 usw. dargestellt.
PCA ist ein Dimensionsreduktionsansatz, der bei der Reduktion der Dimensionen von Datensätzen helfen kann, die beim Training für maschinelles Lernen verwendet werden. Es mildert den gefürchteten Fluch der Dimensionalität.
PCA ist eine Methode zur Bestimmung der wichtigsten Eigenschaften einer Hauptkomponente, die den größten Einfluss auf die Zielgröße haben. PCA entwickelt eine neue Feature-Prinzip-Komponente.
Hauptunterschiede zwischen Singular Value Decomposition (SVD) und Hauptkomponentenanalyse (PCA)
- SVD ist direkt vergleichbar mit Faktorisierung algebraische Ausdrücke, während PCA der Approximation einer faktorisierten Aussage entspricht, indem die "größten" Terme beibehalten und alle kleineren Terme eliminiert werden.
- Werte in SVD sind konsistente Zahlen, und die Faktorisierung ist der Prozess ihrer Zerlegung, während PCA eine statistische / maschinelle Intelligenzmethode ist, um die Hauptaspekte zu bestimmen.
- Die Zerlegung der Matrix in orthonormale Bereiche wird als SVD bezeichnet, während PCA mit SVD berechnet werden kann, obwohl dies teurer ist.
- SVD gehört zu den am häufigsten verwendeten und universell hilfreichen Funktionen in der numerischen linearen Algebra für die Datenerfassung, während PCA eine gut etablierte Methode ist, die viele Theorien über Statistik eingeführt hat.
- SVD ist einer der bekanntesten Algorithmen, während PCA ein Dimensionsreduktionsansatz ist.
- https://www.hindawi.com/journals/acisc/2021/6686759/
- https://www.tandfonline.com/doi/abs/10.1198/106186007X256080
Letzte Aktualisierung: 13. Juli 2023
Ich habe mir so viel Mühe gegeben, diesen Blogbeitrag zu schreiben, um Ihnen einen Mehrwert zu bieten. Es wird sehr hilfreich für mich sein, wenn Sie es in den sozialen Medien oder mit Ihren Freunden / Ihrer Familie teilen möchten. TEILEN IST ♥️
Emma Smith hat einen MA-Abschluss in Englisch vom Irvine Valley College. Sie ist seit 2002 Journalistin und schreibt Artikel über die englische Sprache, Sport und Recht. Lesen Sie mehr über mich auf ihr Bio-Seite.
