PCA๊ฐ ์์์ธ์์ ํ์ฉ๋๋ ๋ํ์ ์ธ ์๋ ์ผ๊ตด์ธ์(face recognition)์ ๋๋ค.
์ด์ ๊ด๋ จ๋ ๊ฐ๋ ํน์ ์ฉ์ด๋ก์ eigenface(์์ด๊ฒํ์ด์ค)๊ฐ ์์ต๋๋ค.
๋ค์๊ณผ ๊ฐ์ 20๊ฐ์ 45x40 ์ผ๊ตด ์ด๋ฏธ์ง๋ค์ด ์์ต๋๋ค.
์ด๋ฏธ์ง์์ ํฝ์ ๋ฐ๊ธฐ๊ฐ์ ์ผ๋ ฌ๋ก ์ฐ๊ฒฐํ์ฌ ๋ฒกํฐ๋ก ๋ง๋ค๋ฉด,
์ด๋ค ๊ฐ๊ฐ์ ์ผ๊ตด ์ด๋ฏธ์ง๋ 45x40 = 1,800 ์ฐจ์์ ๋ฒกํฐ๋ก ์๊ฐํ ์ ์์ต๋๋ค.
(์ฆ, ๊ฐ๊ฐ์ ์ด๋ฏธ์ง๋ 1,800 ์ฐจ์ ๊ณต๊ฐ์์ ํ ์ (์ขํ)์ ๋์)
์ด์ ์ด 20๊ฐ์ 1,800์ฐจ์ ์ ๋ฐ์ดํฐ๋ค์ ๊ฐ์ง๊ณ PCA๋ฅผ ์ํํ๋ฉด ๋ฐ์ดํฐ์ ์ฐจ์ ์์ ๋์ผํ ๊ฐ์์ ์ฃผ์ฑ๋ถ ๋ฒกํฐ๋ค์ ์ป์ ์ ์์ต๋๋ค.
์ด๋ ๊ฒ ์ป์ด์ง ์ฃผ์ฑ๋ถ ๋ฒกํฐ๋ค์ ๋ค์ ์ด๋ฏธ์ง๋ก ํด์ํ ๊ฒ์ด eigenface ์ ๋๋ค. (์ผ๊ตด ์ด๋ฏธ์ง๋ฅผ ๊ฐ์ง๊ณ ์ป์ ๋ฒกํฐ์ด๊ธฐ์ eigenface)
์ค์ ์ ์ด๋ฏธ์ง์ ๋ํด ์ป์ด์ง 1,800๊ฐ์ eigenface๋ค ์ค ๋ถ์ฐ์ด ํฐ ์์๋๋ก 20๊ฐ๋ฅผ ๋์ดํ๋ฉด ์๋ ๊ทธ๋ฆผ๊ณผ ๊ฐ์ต๋๋ค.
์ ๊ทธ๋ฆผ์์ ๋ณผ ์ ์๋ฏ์ด ์๋ถ๋ถ eigenface๋ค์ ๋ฐ์ดํฐ๋ค์ ๊ณตํต๋ ์์(์ผ๊ตด์ ์ ๋ฐ์ ์ธ ํํ)๋ฅผ ๋ํ๋ด๊ณ ๋ค๋ก ๊ฐ์๋ก ์ธ๋ถ์ ์ธ ์ฐจ์ด ์ ๋ณด๋ฅผ ๋ํ๋ ๋๋ค. ๊ทธ๋ฆฌ๊ณ ๋ ๋ค๋ก ๊ฐ๋ฉด ๊ฑฐ์ ๋ ธ์ด์ฆ(noise)์ฑ ์ ๋ณด๋ฅผ ๋ํ๋ ๋๋ค.
์์ PCA๋ฅผ ํตํด ์ป์ด์ง ์ฃผ์ฑ๋ถ ๋ฒกํฐ๋ค์ ์๋ก ์์ง์ธ ๊ด๊ณ์ ์๋ค๊ณ ๋งํ ๋ฐ ์์ต๋๋ค.
์ด ๋ง์ ์ฃผ์ฑ๋ถ ๋ฒกํฐ๋ค์ด n์ฐจ์ ๊ณต๊ฐ์ ์์ฑํ๋ ๊ธฐ์ (basis) ์ญํ ์ ํ ์ ์์์ ์๋ฏธํฉ๋๋ค.
์ฆ, PCA๋ก ์ป์ ์ฃผ์ฑ๋ถ ๋ฒกํฐ๋ค์ e1, e2, ..., en๋ผ๋ฉด ์์์ n์ฐจ์ ๋ฐ์ดํฐ x๋ x = c1e1 + c2e2 + ... + cnen๊ณผ ๊ฐ์ด ei๋ค์ ์ผ์ฐจ๊ฒฐํฉ์ผ๋ก ํํ๋ ์ ์์ต๋๋ค.
๊ทธ๋ฐ๋ฐ ๋ท๋ถ๋ถ์ ์ฃผ์ฑ๋ถ ๋ฒกํฐ๋ค์ ๋ฐ์ดํฐ ๋ถํฌ์ ํฌํจ๋ ๋ ธ์ด์ฆ(noise)์ฑ ์ ๋ณด๋ฅผ ๋ํ๋ด๊ธฐ ๋๋ฌธ์, ๋ท๋ถ๋ถ์ ๋ฒ๋ฆฌ๊ณ ์ ๋ฐ๋ถ k๊ฐ์ ์ฃผ์ฑ๋ถ ๋ฒกํฐ๋ค๋ง์ ๊ฐ์ง๊ณ ์๋ ๋ฐ์ดํฐ๋ฅผ ํํํ๋ฉด ๋ ธ์ด์ฆ๊ฐ ์ ๊ฑฐ๋ ๋ฐ์ดํฐ๋ฅผ ์ป์ ์ ์์ต๋๋ค.
์ฆ, ์๋์ x๊ฐ x = c1e1 + c2e2 + ... + cnen์ผ ๋ xk = c1e1 + ... +ckek๋ก x๋ฅผ ๊ทผ์ฌํ๋ ๊ฒ.
์ ์ผ๊ตด ์ด๋ฏธ์ง๋ค์ ๋ํด ์ ๋ฐ๋ถ์ ์ผ๋ถ(k = 20, 10, 5, 2) eigenface๋ค๋ง์ ์ด์ฉํ ๊ทผ์ฌ ์ด๋ฏธ์ง๋ค์ ์๋ ๊ทธ๋ฆผ๊ณผ ๊ฐ์ต๋๋ค.
๊ทธ๋ฆผ์์ ๋ณผ ์ ์๋ฏ์ด ๋ง์ ์์ eigenface๋ฅผ ์ด์ฉํ๋ฉด ์๋ณธ ์ผ๊ตด๊ณผ ๊ฑฐ์ ์ ์ฌํ ๊ทผ์ฌ(๋ณต์) ๊ฒฐ๊ณผ๋ฅผ ๋ณผ ์ ์์ง๋ง k๊ฐ ์์์ง์๋ก ๊ฐ์ธ ๊ณ ์ ์ ์ผ๊ตด ํน์ฑ์ ์ฌ๋ผ์ง๊ณ ๊ณตํต์ ์ผ๊ตด ํน์ฑ์ด ๋จ๊ฒ ๋ฉ๋๋ค.(k=20์ธ ๊ฒฝ์ฐ ์๋ ์ผ๊ตด์ด ๊ทธ๋๋ก ์ด์๋์ง๋ง k=2์ธ ๊ฒฝ์ฐ ๊ฐ์ธ๊ฐ์ ๊ตฌ๋ถ์ด ๊ฑฐ์ ์ฌ๋ผ์ง์ ๋ณผ ์ ์์ต๋๋ค).
โ ๋ ธ์ด์ฆ(noise)์ ๋ํด ์ข ๋ ์๊ฐํด ๋ณด๋ฉด, ์์ ๋งํ๋ฏ์ด PCA๋ ๊ฐ๋ณ ๋ฐ์ดํฐ์ ๋ํ ๋ถ์์ด ์๋๋ผ ์ ์ฒด ๋ฐ์ดํฐ์ ๋ํ ์งํฉ์ ๋ถ์ ๋๊ตฌ์ ๋๋ค.
๋ง์ผ ๊ฐ์์ง 100๋ง๋ฆฌ์ ๋ํ PCA ๋ถ์ ๊ฒฐ๊ณผ๊ฐ ์๋ค๊ณ ํฉ์๋ค. ์ด ๋, ๊ฐ์์ง ๋ฐ์ดํฐ์์ ์ป์ด์ง eigenface๋ค ์ค ์์ ๊ฒ(์ฃผ์ฑ๋ถ์ ๊ฐ์๊ฐ ์ ์ ๊ฒ)๋ค์ ๊ฐ์์ง ๊ณตํต์ ํํ ์ ๋ณด๋ฅผ ๋ํ๋ด๊ณ ๋ค๋ก ๊ฐ์๋ก ๊ฐ์์ง๋ค ๋ด๋ถ์์ ๊ฐ์์ง๋ค ์ฌ์ด์ ์ฐจ์ด์ ์ ํํํ ์ ์๋ ์ ๋ณด๋ฅผ ๋ํ๋ ๋๋ค. ๋ ๋ค๋ก ๋์๊ฐ๋ฉด ๋ ธ์ด์ฆ์ฑ ์ ๋ณด๋ฅผ ํํํฉ๋๋ค.
(์ด๋์ ์ด๋๊น์ง๊ฐ ๋ฐ์ดํฐ ๊ณตํต ์ฑ๋ถ์ด๊ณ ์ด๋๊น์ง๊ฐ ๋ฐ์ดํฐ์ ์ฐจ์ด์ธ์ง, ๊ทธ๋ฆฌ๊ณ ์ด๋๋ถํฐ ๋ ธ์ด์ฆ ์ฑ๋ถ์ธ์ง ๊ทธ ๊ตฌ๋ถ์ ๋ช ํํ์ง ์์ต๋๋ค. ๋ฐ์ดํฐ์ ๋ฐ๋ผ์ ์ฃผ๊ด์ ์ผ๋ก ๋๋ ์คํ์ ์ผ๋ก ๊ฒฐ์ ํ๋ ๊ฒ์ด ํต์์ ์ ๋๋ค.)
๋ฐ๋ผ์, ์์์ ์ค๋ช ํ k๊ฐ์ ์ฃผ์ฑ๋ถ ๋ฒกํฐ๋ง์ ์ด์ฉํ์ฌ ์๋ ๋ฐ์ดํฐ๋ฅผ ํํํ๋ ๊ฒ์ ๊ด์ ์ ๋ฐ๋ผ์ ์ฐจ์ ๊ฐ์(dimension reduction), ๋ฐ์ดํฐ ์์ถ(compression), ๋ ธ์ด์ฆ ์ ๊ฑฐ ๋ฑ์ผ๋ก ๋ค์ํ๊ฒ ํด์๋ ์ ์์ต๋๋ค.
๋จผ์ , ์ฐจ์๊ฐ์๋ผ ํจ์ n์ฐจ์์ ๋ฐ์ดํฐ๋ฅผ xk = c1e1 + ... + ckek๋ก ํํํ์ ๋ e1, ..., ek๋ฅผ ์๋ก์ด ์ขํ์ถ์ผ๋ก ํ๋ ๊ณต๊ฐ์์ x๋ฅผ (c1, c2, ..., ck)์ ๊ฐ์ด k์ฐจ์์ ์ ์ผ๋ก ํํํ๋ค๋ ์๋ฏธ์ ๋๋ค.
๋์งธ, ๋ฐ์ดํฐ ์์ถ์ ์๋ฏธ๋ {x}๋ค์ ๊ทธ๋๋ก ์ ์ฅํ์ง ์๊ณ k๊ฐ์ ์ฃผ์ฑ๋ถ ๋ฒกํฐ๋ค๊ณผ ๊ณ์ (c1, .., ck)๋ค๋ง์ ์ ์ฅํ๋ฉด ์ ์ฅ์ฉ๋์ ํฌ๊ฒ ์ค์ผ ์ ์๋ค๋ ์๋ฏธ์ ๋๋ค.
์ฐธ๊ณ ๋ก SVD(ํน์ด๊ฐ๋ถํด)๋ฅผ ์ด์ฉํ ๋ฐ์ดํฐ ์์ถ์ ๋ฐ์ดํฐ๋ฅผ ๊ฐ๋ณ์ ์ผ๋ก ์์ถํ์ง๋ง PCA๋ ๋ฐ์ดํฐ๋ฅผ ์งํฉ์ ์ผ๋ก ์์ถํ๋ค๋ ์ ์ด ๋ค๋ฆ ๋๋ค.
์ ๋ฆฌํ์๋ฉด,
๋ ธ์ด์ฆ ์ ๊ฑฐ๋ k๊ฐ์ ์ฃผ์ฑ๋ถ๋ง์ ์ด์ฉํด์ ๋ฐ์ดํฐ๋ฅผ ๋ณต์ํจ์ผ๋ก์จ ์๋ฏธ์๋ ๋ ธ์ด์ฆ ๋ถ๋ถ์ ์ ๊ฑฐํ๋ค๋ ์๋ฏธ์ ๋๋ค.
๋ณด์ถฉ ์ค๋ช (2์ฐจ์ ์ขํ๋ฅผ ํตํด ์ค๋ช )
๊ฒฐ๊ณผ์ ์ผ๋ก ๋ ธ์ด์ฆ ์๋ ๋ฐ์ดํฐ๋ฅผ ํฌํจํ๋ ์ถ์ ์ ๊ฑฐํ์ฌ ์ฃผ์ฑ๋ถ ๋ถ์์ ํตํด ์ ๋ ฅ๋ฐ์ดํฐ์ ๋ ธ์ด์ฆ๋ฅผ ์ต์ํํ ์ ์์ต๋๋ค.
PCA๋ ํ์ ๊ธฐ๋ฅ์ ์ ์งํ๋ฉด์ ์ ํธ ๋๋ ์ด๋ฏธ์ง์์ ์์๋ ๋ฐ์ดํฐ๋ฅผ ์ ๊ฑฐํ๋ ๊ฒ์ ๋ชฉํ๋ก ํฉ๋๋ค.
PCA๋ ๋ค์ํ ์ถ์ ๋ฐ๋ผ ์ ๋ ฅ ๋ฐ์ดํฐ๋ฅผ ํฌ์ํฉ๋๋ค. ๋ฐ๋ผ์ ์ ๋ ฅ ์ ํธ์ ์ฐจ์ ๋๋ ๋ฐ์ดํฐ๋ฅผ ์ค์ ๋๋ค.
๋ ์์ธํ ์ดํดํ๋ ค๋ฉด X์ถ์ ๋ฐ๋ผ XY ์น์์ ํ ์ ์ ํฌ์ํ ๋์ ๊ฐ์ด ์๊ฐํ ์ ์์ต๋๋ค. ์๋ ๊ทธ๋ฆผ์์, ๋ ธ์ด์ฆ ํ๋ ์ธ(Y์ถ)์ ์ ๊ฑฐํ ์ ์์ต๋๋ค.
์ด์ ๊ฐ์ด, ์ฃผ์ฑ๋ถ ๋ถ์์ ๋ ธ์ด์ฆ๊ฐ ์๋ ๋ฐ์ดํฐ๋ฅผ ํฌํจํ๋ ์ถ์ ์ ๊ฑฐํ์ฌ ์ ๋ ฅ ๋ฐ์ดํฐ์์ ๋ ธ์ด์ฆ๋ฅผ ์ค์ผ ์ ์์ต๋๋ค. ์ด๊ฒ์ ๋ ธ์ด์ฆ๊ฐ ์๋ ๋ฐ์ดํฐ๋ฅผ ์ ๋ ฅ์ผ๋ก ์ทจํ๊ณ ์ถ๋ ฅ์์ โโ๋ ธ์ด์ฆ๊ฐ ์ ๊ฑฐ๋ ๋ฐ์ดํฐ๋ฅผ ์ ๊ณตํจ์ผ๋ก์จ, 2๋จ๊ณ์์์ ์ ๋ ฅ ๋ฐ์ดํฐ์ ๋ ธ์ด์ฆ๋ฅผ ์ ๊ฑฐํ๊ธฐ ์ํด PCA๋ฅผ ์ฌ์ฉํฉ๋๋ค.