奇異值分解SVD計算機

歡迎使用奇異值分解SVD計算機，這是一個強大的線性代數工具，可將任何矩陣分解為其基本分量。SVD 將矩陣分解為 A = UΣVᵀ，並提供逐步解法、互動式視覺化圖表、秩分析、條件數、低秩逼近質量分析以及虛擬逆矩陣計算。無論您是在學習線性代數、從事機器學習還是在進行數據分析，此計算機都能提供專業級的矩陣分解功能。

什麼是奇異值分解？

奇異值分解 (SVD) 是將任何 m×n 矩陣 A 分解為三個矩陣的過程：

其中：

• A 是原始的 m×n 矩陣
• U 是一個 m×m 正交矩陣（左奇異向量，AAᵀ 的特徵向量）
• Σ (Sigma) 是一個 m×n 對角矩陣，具有非負奇異值 σ₁ ≥ σ₂ ≥ ... ≥ 0
• Vᵀ 是一個 n×n 正交矩陣（右奇異向量，AᵀA 的特徵向量）

與特徵值分解不同，SVD 始終存在於任何矩陣，包括長方形矩陣和奇異矩陣。這種普遍性使其成為應用數學中最重要的分解法之一。

SVD 是如何計算的

1. 形成 AᵀA： 計算 n×n 對稱矩陣 AᵀA
2. 尋找特徵值： 求解 det(AᵀA − λI) = 0 以獲得特徵值 λ₁ ≥ λ₂ ≥ ... ≥ 0
3. 奇異值： σᵢ = √λᵢ（特徵值的平方根）
4. 右奇異向量 (V)： 尋找 AᵀA 的特徵向量，並進行正交規範化以獲得 V 的各列
5. 左奇異向量 (U)： 對於每個非零奇異值，計算 uᵢ = Avᵢ/σᵢ，並擴展為完整的正交規範基

關鍵性質

矩陣的秩

矩陣 A 的秩 (Rank) 等於非零奇異值的數量。這是確定秩在數值上最穩定的方法，遠比可能受浮點誤差影響的列簡化法（梯形矩陣）更可靠。

條件數

條件數衡量線性系統 Ax = b 對擾動的敏感程度。較大的 κ 表示矩陣是病態的；κ = 1 是最理想的情況（正交矩陣）。

透過 SVD 計算矩陣範數

• 譜範數 (2-範數)： \(\|A\|_2 = \sigma_1\) — 即最大奇異值
• Frobenius 範數： \(\|A\|_F = \sqrt{\sigma_1^2 + \sigma_2^2 + \cdots}\)
• 核範數 (Nuclear norm)： \(\|A\|_* = \sigma_1 + \sigma_2 + \cdots\) — 所有奇異值的總和

SVD 的應用

低秩逼近 (Eckart–Young 定理)

Eckart–Young–Mirsky 定理指出，A 的最佳秩 k 逼近（在 Frobenius 或譜範數下）是透過僅保留前 k 個最大的奇異值得出的：

逼近誤差為： \(\|A - A_k\|_F = \sqrt{\sigma_{k+1}^2 + \cdots + \sigma_r^2}\)

SVD 與特徵值分解的比較

常見問題

什麼是奇異值分解 (SVD)？

奇異值分解 (SVD) 是一種矩陣分解方法，可將任何 m×n 實數矩陣 A 分解為三個矩陣：A = UΣVᵀ，其中 U 是左奇異向量的 m×m 正交矩陣，Σ 是奇異值的 m×n 對角矩陣，而 Vᵀ 是右奇異向量的 n×n 正交矩陣。任何矩陣都存在 SVD。

奇異值有什麼用途？

奇異值揭示了矩陣的基本性質：秩（非零奇異值的數量）、條件數（最大值與最小值的比例）以及矩陣範數。它們廣泛應用於數據壓縮（僅保留最大的奇異值）、主成分分析 (PCA)、降噪、推薦系統和求解最小二乘法問題。

SVD 和特徵值分解有什麼區別？

特徵值分解僅適用於方陣，且要求矩陣可對角化。SVD 適用於任何 m×n 矩陣（包括長方形矩陣）且始終存在。對於對稱正半定矩陣，SVD 和特徵分解的結果一致。SVD 使用兩個不同的正交基（U 和 V），而特徵分解使用一個。

SVD 與 PCA 有什麼關係？

PCA（主成分分析）是直接使用 SVD 計算的。當您對數據矩陣 X 進行中心化並計算其 SVD 為 X = UΣVᵀ 時，V 的各列即為主成分（最大變異數方向），Σ 中的奇異值編碼了沿每個分量的標準差，而 UΣ 則給出了新座標系中的投影數據。 對於 N 個已中心化的觀測值（N > 1）， Var(PCᵢ) = σᵢ²/(N−1), SD(PCᵢ) = σᵢ/√(N−1).

什麼是低秩逼近？

矩陣 A 的秩 k 逼近僅保留 k 個最大的奇異值及其對應的向量：A_k = U_k Σ_k V_k^T。根據 Eckart-Young 定理，這是在 Frobenius 範數和譜範數下的最佳秩 k 逼近。這是圖像壓縮、潛在語義分析和降維背後的數學基礎。

矩陣的條件數是什麼？

條件數 κ(A) = σ_max / σ_min 是最大奇異值與最小奇異值的比率。它衡量線性系統 Ax = b 的解對擾動的敏感程度。較大的條件數意味著矩陣是病態的，輸入中的微小誤差可能會導致解中的巨大誤差。條件數為 1（正交矩陣）是最理想的情況。

其他資源

• 低秩逼近 - 維基百科
• Moore-Penrose 虛擬逆矩陣 - 維基百科