เครื่องคำนวณการแยกค่าเอกฐาน SVD

ยินดีต้อนรับสู่ เครื่องคำนวณการแยกค่าเอกฐาน (SVD) เครื่องมือพีชคณิตเชิงเส้นอันทรงพลังที่แยกเมทริกซ์ใดๆ ออกเป็นองค์ประกอบพื้นฐาน SVD แยกตัวประกอบเมทริกซ์ A = UΣVᵀ และให้คำตอบแบบทีละขั้นตอน, การแสดงภาพแบบโต้ตอบ, การวิเคราะห์อันดับ, หมายเลขเงื่อนไข, คุณภาพการประมาณค่าอันดับต่ำ และการคำนวณเมทริกซ์ผกผันเสมือน ไม่ว่าคุณกำลังศึกษาพีชคณิตเชิงเส้น ทำงานด้านแมชชีนเลิร์นนิง หรือวิเคราะห์ข้อมูล เครื่องคำนวณนี้ให้การแยกตัวประกอบเมทริกซ์ระดับมืออาชีพ

การแยกค่าเอกฐานคืออะไร?

การแยกค่าเอกฐาน (Singular Value Decomposition หรือ SVD) คือการแยกตัวประกอบของเมทริกซ์ m×n A ใดๆ ออกเป็นสามเมทริกซ์:

โดยที่:

• A คือเมทริกซ์ต้นฉบับขนาด m×n
• U คือเมทริกซ์เชิงตั้งฉาก m×m (เวกเตอร์เอกฐานซ้าย, เวกเตอร์ลักษณะเฉพาะของ AAᵀ)
• Σ (Sigma) คือเมทริกซ์ทแยงมุม m×n ที่มีค่าเอกฐานที่ไม่เป็นลบ σ₁ ≥ σ₂ ≥ ... ≥ 0
• Vᵀ คือเมทริกซ์เชิงตั้งฉาก n×n (เวกเตอร์เอกฐานขวา, เวกเตอร์ลักษณะเฉพาะของ AᵀA)

ต่างจากการแยกตัวประกอบค่าเฉพาะ SVD มีอยู่เสมอ สำหรับทุกเมทริกซ์ รวมถึงเมทริกซ์สี่เหลี่ยมผืนผ้าและเมทริกซ์เอกฐาน ความเป็นสากลนี้ทำให้มันเป็นหนึ่งในการแยกตัวประกอบที่สำคัญที่สุดในคณิตศาสตร์ประยุกต์

วิธีการคำนวณ SVD

1. สร้าง AᵀA: คำนวณเมทริกซ์สมมาตร n×n AᵀA
2. หาค่าเฉพาะ: แก้สมการ det(AᵀA − λI) = 0 เพื่อรับค่าเฉพาะ λ₁ ≥ λ₂ ≥ ... ≥ 0
3. ค่าเอกฐาน: σᵢ = √λᵢ (รากที่สองของค่าเฉพาะ)
4. เวกเตอร์เอกฐานขวา (V): หาเวกเตอร์ลักษณะเฉพาะของ AᵀA, ทำให้เป็นบรรทัดฐานเชิงตั้งฉากเพื่อรับคอลัมน์ของ V
5. เวกเตอร์เอกฐานซ้าย (U): คำนวณ uᵢ = Avᵢ/σᵢ สำหรับแต่ละค่าเอกฐานที่ไม่เป็นศูนย์ และขยายให้เป็นฐานเชิงตั้งฉากที่สมบูรณ์

คุณสมบัติที่สำคัญ

อันดับของเมทริกซ์ (Matrix Rank)

อันดับ (Rank) ของเมทริกซ์ A เท่ากับจำนวนค่าเอกฐานที่ไม่เป็นศูนย์ นี่เป็นวิธีที่มีความเสถียรทางตัวเลขมากที่สุดในการหาอันดับ ซึ่งน่าเชื่อถือกว่าการลดรูปแถวที่อาจผิดพลาดได้จากความคลาดเคลื่อนของทศนิยม

หมายเลขเงื่อนไข (Condition Number)

หมายเลขเงื่อนไขวัดความไวของระบบเชิงเส้น Ax = b ต่อการรบกวน ค่า κ ที่มากบ่งบอกว่าเมทริกซ์มีเงื่อนไขไม่ดี; κ = 1 คือกรณีในอุดมคติ (เมทริกซ์เชิงตั้งฉาก)

นอร์มเมทริกซ์ผ่าน SVD

• นอร์มสเปกตรัม (2-norm): \(\|A\|_2 = \sigma_1\) — ค่าเอกฐานที่ใหญ่ที่สุด
• นอร์ม Frobenius: \(\|A\|_F = \sqrt{\sigma_1^2 + \sigma_2^2 + \cdots}\)
• นอร์มนิวเคลียร์: \(\|A\|_* = \sigma_1 + \sigma_2 + \cdots\) — ผลรวมของค่าเอกฐานทั้งหมด

การประยุกต์ใช้ SVD

การประมาณค่าอันดับต่ำ (ทฤษฎีบท Eckart–Young)

ทฤษฎีบท Eckart–Young–Mirsky ระบุว่าการประมาณค่าอันดับ k ที่ดีที่สุดของ A (ในนอร์ม Frobenius หรือสเปกตรัม) ได้มาจากการเก็บเฉพาะค่าเอกฐานที่ใหญ่ที่สุด k ค่า:

ข้อผิดพลาดในการประมาณค่าคือ: \(\|A - A_k\|_F = \sqrt{\sigma_{k+1}^2 + \cdots + \sigma_r^2}\)

SVD เทียบกับการแยกตัวประกอบค่าเฉพาะ

คำถามที่พบบ่อย

การแยกค่าเอกฐาน (SVD) คืออะไร?

การแยกค่าเอกฐาน (Singular Value Decomposition หรือ SVD) คือการแยกตัวประกอบเมทริกซ์ที่แยกเมทริกซ์จำนวนจริง m×n ใดๆ A ออกเป็นสามเมทริกซ์: A = UΣVᵀ โดยที่ U คือเมทริกซ์เชิงตั้งฉาก m×m ของเวกเตอร์เอกฐานซ้าย, Σ คือเมทริกซ์ทแยงมุม m×n ของค่าเอกฐาน และ Vᵀ คือเมทริกซ์เชิงตั้งฉาก n×n ของเวกเตอร์เอกฐานขวา SVD มีอยู่เสมอสำหรับทุกเมทริกซ์

ค่าเอกฐานใช้ทำอะไร?

ค่าเอกฐานช่วยเปิดเผยคุณสมบัติพื้นฐานของเมทริกซ์: อันดับ (จำนวนค่าเอกฐานที่ไม่เป็นศูนย์), หมายเลขเงื่อนไข (อัตราส่วนของค่าที่มากที่สุดต่อค่าที่น้อยที่สุด) และนอร์มของเมทริกซ์ มีการใช้กันอย่างแพร่หลายในการบีบอัดข้อมูล (เก็บเฉพาะค่าเอกฐานที่ใหญ่ที่สุด), การวิเคราะห์องค์ประกอบหลัก (PCA), การลดสัญญาณรบกวน, ระบบแนะนำ และการแก้ปัญหาการถดถอยกำลังสองน้อยที่สุด

SVD และการแยกตัวประกอบค่าเฉพาะต่างกันอย่างไร?

การแยกตัวประกอบค่าเฉพาะใช้ได้กับเมทริกซ์จัตุรัสเท่านั้นและต้องเป็นเมทริกซ์ที่สามารถทำให้เป็นทแยงมุมได้ ส่วน SVD ใช้ได้กับเมทริกซ์ m×n ใดๆ (รวมถึงเมทริกซ์สี่เหลี่ยมผืนผ้า) และมีอยู่เสมอ สำหรับเมทริกซ์สมมาตรกึ่งบวกแน่นอน SVD และการแยกตัวประกอบค่าเฉพาะจะเหมือนกัน SVD ใช้ฐานเชิงตั้งฉากที่แตกต่างกันสองฐาน (U และ V) ในขณะที่การแยกตัวประกอบค่าเฉพาะใช้เพียงฐานเดียว

SVD เกี่ยวข้องกับ PCA อย่างไร?

PCA (Principal Component Analysis) คำนวณโดยตรงโดยใช้ SVD เมื่อคุณจัดตำแหน่งข้อมูลเมทริกซ์ X ให้อยู่ที่ศูนย์และคำนวณ SVD เป็น X = UΣVᵀ คอลัมน์ของ V คือองค์ประกอบหลัก (ทิศทางของความแปรปรวนสูงสุด), ค่าเอกฐานใน Σ จะเข้ารหัสค่าเบี่ยงเบนมาตรฐานตามแต่ละองค์ประกอบ และ UΣ จะให้ข้อมูลที่โปรเจกต์ลงในระบบพิกัดใหม่ สำหรับข้อมูลที่ลบค่าเฉลี่ยแล้ว N ตัวอย่าง (N > 1): Var(PCᵢ) = σᵢ²/(N−1), SD(PCᵢ) = σᵢ/√(N−1).

การประมาณค่าอันดับต่ำคืออะไร?

การประมาณค่าอันดับ k ของเมทริกซ์ A จะเก็บเฉพาะค่าเอกฐานที่ใหญ่ที่สุด k ค่าและเวกเตอร์ที่เกี่ยวข้อง: A_k = U_k Σ_k V_k^T ตามทฤษฎีบท Eckart-Young นี่คือการประมาณค่าอันดับ k ที่ดีที่สุดทั้งในนอร์ม Frobenius และนอร์มสเปกตรัม นี่คือพื้นฐานทางคณิตศาสตร์เบื้องหลังการบีบอัดภาพ, การวิเคราะห์ความหมายแฝง และการลดมิติข้อมูล

หมายเลขเงื่อนไขของเมทริกซ์คืออะไร?

หมายเลขเงื่อนไข κ(A) = σ_max / σ_min คืออัตราส่วนของค่าเอกฐานที่ใหญ่ที่สุดต่อค่าที่น้อยที่สุด เป็นตัววัดความไวของผลลัพธ์ของระบบเชิงเส้น Ax = b ต่อการรบกวน หมายเลขเงื่อนไขที่มากหมายความว่าเมทริกซ์มีเงื่อนไขไม่ดี และข้อผิดพลาดเพียงเล็กน้อยในอินพุตอาจทำให้เกิดข้อผิดพลาดขนาดใหญ่ในผลลัพธ์ หมายเลขเงื่อนไขเป็น 1 (เมทริกซ์เชิงตั้งฉาก) คือสภาวะในอุดมคติ

แหล่งข้อมูลเพิ่มเติม

• Singular Value Decomposition - Wikipedia
• Low-Rank Approximation - Wikipedia
• Moore-Penrose Pseudoinverse - Wikipedia