La décomposition en valeurs singulières (SVD) est l'une des fonctionnalités les plus utilisées et les plus polyvalentes de l'algèbre linéaire numérique pour l'acquisition de données, tandis que l'analyse en composantes principales (ACP) est une méthode bien établie qui a introduit de nombreuses théories sur les statistiques.
En particulier, PCA nous fournit un système de coordonnées hiérarchiques piloté par les données.
Faits marquants
- SVD est une technique de factorisation matricielle qui s'applique à toute matrice, tandis que PCA est une transformation linéaire spécifique aux matrices de covariance.
- PCA est utilisé pour la compression de données et l'extraction de caractéristiques, tandis que SVD a diverses applications dans le traitement du signal, l'exploration de données et la récupération d'informations.
- SVD ne nécessite pas de données centrées, tandis que PCA fonctionne mieux avec des données centrées et normalisées.
Décomposition en valeurs singulières (SVD) vs analyse en composantes principales (ACP)
La décomposition en valeurs singulières (SVD) est une méthode de factorisation en algèbre linéaire qui peut décomposer n'importe quelle matrice réelle ou complexe. L'analyse en composantes principales (ACP) est une procédure statistique qui utilise la décomposition SVD ou propre sur la matrice de covariance ou de corrélation pour identifier les composantes principales.
La décomposition en valeurs singulières (SVD) est la fonctionnalité la plus largement utilisée en algèbre linéaire numérique. Il aide à réduire les données aux éléments clés nécessaires à l'analyse, à la compréhension et à la description.
Le svd est l'un des premiers éléments dans la plupart des prétraitements de données et machine learning algorithmes de réduction de données notamment. Le SVD est une généralisation de la transformée de Fourier basée sur les données.
L'analyse en composantes principales (ACP) est aujourd'hui un outil statistique qui a donné naissance à de nombreuses idées. Cela nous permettra d'utiliser un ensemble hiérarchique de points pour exprimer les changements statistiques.
L'ACP est une technique d'intelligence statistique/machine utilisée pour déterminer les principaux modèles de données qui maximisent la variation globale. Ainsi, la variance maximale est capturée par un système de coordonnées en fonction des directions des données.
Tableau de comparaison
| Paramètres de comparaison | Décomposition en valeurs singulières (SVD) | Analyse en composantes principales (ACP) |
|---|---|---|
| Exigences | Les mathématiques abstraites, la décomposition matricielle et la physique quantique nécessitent toutes la SVD. | Les statistiques sont particulièrement efficaces dans l'ACP pour analyser les données de la recherche. |
| Expression | Factorisation d'expressions algébriques. | similaire à l'approximation d'expressions factorisées. |
| Méthodologie | C'est une méthode de mathématiques abstraites et de décomposition matricielle. | C'est une méthode en Statistique/Machine Learning. |
| Branche | Utile dans le domaine des mathématiques. | Utile dans le domaine des mathématiques. |
| Invention | Le SVD a été inventé par Eugenio Beltrami et Camille Jordan. | Le PCA a été inventé par Karl Pearson. |
Qu'est-ce que la décomposition en valeurs singulières (SVD) ?
Le SVD est fortement lié à la partie de la factorisation des valeurs propres et des vecteurs propres d'une matrice définie positive.
Bien que toutes les matrices ne puissent pas être factorisées en pt, toute matrice m × n A peut être factorisée en lui permettant à gauche et PT à droite d'être deux quelconques orthogonal matrices U et vt (pas nécessairement transposées l'une de l'autre).
Ce type de factorisation spéciale est appelé SVD.
Les développements sinus et cosinus sont utilisés dans toutes les mathématiques pour approximer les fonctions, et FT est l'une des transformations les plus utiles. Il existe également des fonctions Bessel et Airy, ainsi que des harmoniques sphériques.
Et, dans la génération précédente de l'informatique et de l'ingénierie, cette transformation mathématique du modèle mathématique était utilisée pour transférer un système d'intérêt dans un nouveau système de coordonnées.
L'un des algorithmes les plus importants est SVD. On pourrait utiliser l'algèbre linéaire pour générer des revenus.
L'un des aspects les plus utiles de l'utilisation de l'algèbre linéaire pour faire du profit est qu'elle est répandue car elle est basée sur une algèbre linéaire très simple et lisible qui peut être utilisée à tout moment.
Si vous avez un Data Matrix, vous pouvez calculer le svd et obtenir des fonctionnalités interprétables et intelligibles à partir desquelles vous pouvez créer des modèles. Il est également évolutif, il peut donc être utilisé sur de très grands ensembles de données.
Chaque facteur de matrice est divisé en trois parties, appelées transposition u Sigma v. Une Matrice orthogonale est une composante u. La matrice diagonale est le facteur Sigma.
Le facteur v transposé est également une matrice orthogonale, ce qui la rend diagonale orthogonale ou s'étire et tourne physiquement.
Chaque Matrice est factorisée en une Matrice orthogonale en la multipliant par une Matrice diagonale (la valeur singulière) par une autre Matrice orthogonale : rotation, étirement temporel, rotation fois.
Qu'est-ce que l'analyse en composantes principales (ACP) ?
L'ACP est une méthode bien établie qui a introduit de nombreuses théories sur les statistiques. Cela équivaut à approximer une déclaration factorisée en conservant les termes "les plus grands" et en éliminant tous les termes les plus petits.
C'est une méthode bien établie qui a introduit de nombreuses théories sur les statistiques. En particulier, PCA nous fournit un système de coordonnées hiérarchiques piloté par les données.
L'analyse en composantes principales (ACP) est appelée décomposition orthogonale appropriée. La PCA est une méthode permettant d'identifier des modèles dans les données en les définissant en termes de similitudes et de différences.
Dans PCA, il existe une matrice de données X qui contient une collection de mesures de différentes expériences, et deux expériences indépendantes sont représentées sous forme de grands facteurs de ligne à x1, x2, et ainsi de suite.
L'ACP est une approche de réduction de la dimensionnalité qui peut aider à réduire les dimensions des ensembles de données utilisés dans la formation à l'apprentissage automatique. Il atténue la redoutable malédiction dimensionnelle.
L'ACP est une méthode permettant de déterminer les caractéristiques les plus importantes d'une composante principale qui ont la plus grande influence sur la variable cible. PCA développe un nouveau composant de principe de fonctionnalité.
Principales différences entre Décomposition en valeurs singulières (SVD) et analyse en composantes principales (ACP)
- SVD est directement comparable à affacturage expressions algébriques, alors que l'ACP équivaut à approximer un énoncé factorisé en conservant les termes « plus grands » et en éliminant tous les termes plus petits.
- Les valeurs dans SVD sont des nombres cohérents et la factorisation est le processus de décomposition, tandis que l'ACP est un moyen d'intelligence statistique/machine pour déterminer les principaux aspects.
- La décomposition de la matrice en zones ortho-normales est connue sous le nom de SVD, tandis que PCA peut être calculée à l'aide de SVD, bien que son prix soit plus élevé.
- La SVD est l'une des fonctionnalités les plus utilisées et les plus polyvalentes de l'algèbre linéaire numérique pour l'acquisition de données, tandis que l'ACP est une méthode bien établie qui a introduit de nombreuses théories sur les statistiques.
- SVD est l'un des algorithmes les plus importants, tandis que PCA est une approche de réduction de la dimensionnalité.
- https://www.hindawi.com/journals/acisc/2021/6686759/
- https://www.tandfonline.com/doi/abs/10.1198/106186007X256080
Dernière mise à jour : 13 juillet 2023
J'ai mis tellement d'efforts à écrire ce billet de blog pour vous apporter de la valeur. Cela me sera très utile, si vous envisagez de le partager sur les réseaux sociaux ou avec vos amis/famille. LE PARTAGE C'EST ♥️
Emma Smith est titulaire d'une maîtrise en anglais du Irvine Valley College. Elle est journaliste depuis 2002, écrivant des articles sur la langue anglaise, le sport et le droit. En savoir plus sur moi sur elle page bio.
