奇异值分解 (SVD) 与主成分分析 (PCA)：差异与比较

奇异值分解 (SVD) 是数值线性代数中用于数据采集的最广泛使用和通用的有用特征之一，而主成分分析 (PCA) 是一种成熟的方法，引入了许多有关统计的理论。

特别是，PCA 为我们提供了一个数据驱动的层次坐标系统。

关键精华

1. SVD 是一种适用于任何矩阵的矩阵分解技术，而 PCA 是一种特定于协方差矩阵的线性变换。
2. PCA 用于数据压缩和特征提取，而 SVD 在信号处理、数据挖掘和信息检索方面有各种应用。
3. SVD 不需要居中数据，而 PCA 最适合居中和规范化的数据。

奇异值分解 (SVD) 与主成分分析 (PCA)

奇异值分解（SVD）是线性代数中的一种因式分解方法，可以分解任何实矩阵或复矩阵。 主成分分析 (PCA) 是一种统计过程，它在协方差或相关矩阵上使用 SVD 或特征分解来识别主成分。

奇异值分解 (SVD) 是数值线性代数中使用最广泛的特征。 它有助于将数据简化为分析、理解和描述所需的关键特征。

SVD 是大多数数据预处理中的首要元素之一，并且 机器学习 尤其是数据缩减算法。 SVD 是一种数据驱动的傅立叶变换泛化。

主成分分析 (PCA) 现在是一种催生了无数想法的统计工具。 这将使我们能够使用一组分层的点来表达统计变化。

PCA 是一种统计/机器智能技术，用于确定最大化整体变化的主要数据模式。 因此，根据数据的方向，坐标系会捕获最大方差。

对比表

比较参数	奇异值分解（SVD）	主成分分析（PCA）
岗位要求	抽象数学、矩阵分解和量子物理学都需要 SVD。	统计数据在 PCA 中对分析研究数据特别有效。
口语	分解代数表达式。	类似于近似分解表达式。
方法	它是抽象数学和矩阵分解中的一种方法。	它是统计/机器学习中的一种方法。
分支机构	对数学分支有帮助。	对数学分支有帮助。
发明	SVD 是由 Eugenio Beltrami 和 Camille Jordan 发明的。	PCA 是由 Karl Pearson 发明的。

什么是奇异值分解 (SVD)？

SVD 与正定矩阵的特征值和特征向量分解的部分密切相关。

虽然不是所有的矩阵都可以分解成pt，但是任何m×n的矩阵A都可以被分解，只要它的左边和右边的PT是任意两个 正交 矩阵 U 和 vt（不一定相互转置）。

这种类型的特殊分解称为 SVD。

正弦和余弦展开式在所有数学中都用于逼近函数，FT 是最有用的变换之一。 还有贝塞尔和艾里函数，以及球谐函数。

并且，在上一代计算机科学与工程中，这种数学模型数学变换被用于将一个感兴趣的系统转移到一个新的坐标系中。

其中一个突出的算法是 SVD。 人们可以使用线性代数来产生收入。

使用线性代数获利的最有用的方面之一是它很普遍，因为它基于非常简单且可读性强的线性代数，可以随时使用。

如果您有数据矩阵，则可以计算 svd 并获得可解释和可理解的特征，您可以从中创建模型。 它也是可扩展的，因此它可以用于非常大的数据集。

每个矩阵因子被分为三个部分，称为 u Sigma v 转置。 正交矩阵是分量 u。 对角矩阵是因子 Sigma。

因子 v 转置同样是一个正交矩阵，使其成为正交对角线或物理拉伸和旋转。

通过将每个矩阵乘以对角矩阵（奇异值）乘以另一个正交矩阵，将每个矩阵分解为正交矩阵：旋转、时间拉伸、时间旋转。

什么是主成分分析 (PCA)？

PCA 是一种行之有效的方法，引入了许多有关统计的理论。 它等效于通过保留“最大”项并消除所有较小项来近似因式分解语句。

它是一种行之有效的方法，引入了许多有关统计的理论。 特别是，PCA 为我们提供了一个数据驱动的层次坐标系。

主成分分析（PCA）被称为适当正交分解。 PCA 是一种通过根据相似性和差异来定义数据模式来识别数据模式的方法。

在 PCA 中，有一个数据矩阵 X，其中包含来自不同实验的测量值的集合，并且两个独立的实验表示为 x1、x2 等处的大行因子。

PCA 是一种降维方法，可以帮助减少机器学习训练中使用的数据集的维度。 它减轻了可怕的维度诅咒。

PCA 是一种确定主成分中对目标变量影响最大的最重要特征的方法。 PCA 开发了一个新的特征主成分。

之间的主要区别 奇异值分解 (SVD) 和主成分分析 (PCA)

1. SVD 可直接与 保理 代数表达式，而 PCA 相当于通过保留“最大”项并消除所有较小的项来近似因式分解语句。
2. SVD 中的值是一致的数字，分解是分解它们的过程，而 PCA 是一种统计/机器智能方法来确定主要方面。
3. 将矩阵分解为正交正态区域称为 SVD，而 PCA 可以使用 SVD 计算，尽管它的价格更高。
4. SVD 是数值线性代数中用于数据采集的最广泛使用和通用的有用特征之一，而 PCA 是一种成熟的方法，引入了许多关于统计的理论。
5. SVD 是一种突出的算法，而 PCA 是一种降维方法。

参考资料

1. https://www.hindawi.com/journals/acisc/2021/6686759/
2. https://www.tandfonline.com/doi/abs/10.1198/106186007X256080

最后更新时间：13 年 2023 月 XNUMX 日