Complete Singular Value Decomposition dan Pendekatan matriks X

Pada artikel sebelumnya (klik sini) telah diuraikan tentang sejarah singkat dari Singular Value Decomposition atau SVD serta langkah-langkah dari penguraian matriks dengan menggunakan SVD. Nah, pada kesempatan ini, saya akan menguraikan tentang macam-macam dari SVD serta pendekatan suatu matriks terhadap matriks X.

Suatu matriks X berukuran n x p apabila diuraikan menjadi:

$gif.latex?_%7Bn%7D%5Cmathbf%7BX%7D_%7Bp%7D%20%3D%20_%7Bn%7D%5Cmathbf%7BU%7D_%7Bn%7D.%5Cmathbf%7BL%7D$ , (1)

maka oleh Green & Carroll (1976) dan Greenacre (1984), persamaan (1) di atas disebut sebagai Complete Singular Value Decomposition atau CSVD dengan U dan W merupakan matriks ortogonal. dan L merupakan matriks yang disusun seperti seperti yang telah dijelaskan pada slide presentasi pada artikel sebelumnya (klik sini).

Sedangkan SVD itu sendiri didefinisikan sebagai:

$gif.latex?_%7Bn%7D%5Cmathbf%7BX%7D_%7Bp%7D%20%3D%20_%7Bn%7D%5Cmathbf%7BU%7D_%7Br%7D.%5Cmathbf%7BL%7D$ (2)

di mana pada persamaan (2), matriks U diperoleh dari matriks U pada persamaan (1) dengan dihilangkan $gif$ kolom terakhirnya. W merupakan matriks yang diperoleh dari matriks W pada persamaan (1) denan menghilangkan $gif$ kolom terakhirnya. L merupakan matriks diagonal yang anggota diagonal utamanya nilai-nilai eigen dari XX' atau X'X. Pada persamaan (2) diperoleh kondisi bahwa UU' = I dan W'W = I dengan setiap kolom pada U dan W merupakan vektor ortonormal (Greenacre 1984). Bentuk persamaan (2) akan ekuivalen dengan:

$gif.latex?_%7Bn%7D%5Cmathbf%7BX%7D_%7Bp%7D%20%3D%20%5Csum_%7Bi%3D1%7D%5E%7Br%7D%5Csqrt%7B%5Clambda_%7Bi%7D%7D.%5Cmathbf%7Bu%7D_%7Bi%7D$ (3)

pada persamaan (3), jika nilai singular $gif.latex?%5Clambda%20_%7Bs+1%7D%2C%20%5Clambda%20_%7Bs+2%7D%2C%20..$ lebih kecil dibandingkan dengan $gif.latex?%5Clambda%20_%7B1%7D%2C%20%5Clambda%20_%7B2%7D%2C%20..$ maka menghilangkan $gif$ suku terakhir dari persamaan (3) akan memberikan pendekatan yang baik dari matriks X dan memiliki pangkat $gif$ yang tentunya lebih rendah daripada matriks X awal yang berpangkat $gif$ . Hal tersebut berarti menghilangkan beberapa bagian yang diagnggap kurang penting secara sistematis. Teorema pendekatan pangkat rendah telah dibuktikan oleh Eckart & Young (1936) dengan hasil sebagai berikut:

Misalkan $gif.latex?\mathbf{A}&space;=&space;\sum_{i=1}^{s}\sqrt{\lambda&space;_{i}}.\mathbf{u}_{i}$ adalah matriks berukuran n x p dengan pangkat s yang berasal dari s nilai singular terbesar dan sama dengan nilai singular vektor-vektor dari X dengan $gif$ dan $gif$ merupakan vektor padanan dari nilai eigen $gif$ yang diperoleh dari XX' dan X'X secara berturut-turut, maka A merupakan matriks berpangkat s yang meminimumkan: $.latex?%5Cleft%20%5C%7C%20%5Cmathbf%7BX%7D-%5Cmathbf%7BA%7D%20%5Cright%20%5C%7C%3D%5Cleft%20%28%5Csum_%7Bi%3D1%7D%5E%7Bn%7D%5Csum_%7Bj%3D1%7D%5E%7Bp%7D%5Cleft%20%28%20x_%7Bij%7D-a_%7Bij%7D%20%5Cright%20%29%5E%7B2%7D%20%5Cright%20%29%5E%7B1/$

untuk setiap s < r. Hal tersebut sering digunakan dalam reduksi dimensi untuk mendapatkan pendekatan optimal dari matriks data antara lain melalui Principal Component Analysis atau Biplot Analysis.

Daftar Pustaka:

Eckart C, Young G. 1936. The approximation of one matrix by another of lower rank. Psychometrika, 3(1):211-218.

Green PE, Carroll JD. 1976. Mathematical Tools for Applied Multivariate Analysis. New York(US): Academic Press.

Greenacre MJ. 1984. Theory and Applications of Correspondence Analysis. London: Academic Press.