正規化空間での特異値分解

次に、 $\mbox{\boldmath$x$}$ および $\mbox{\boldmath$y$}$ の主成分分析を考える。係数行列を、それぞれ、 $C$ および $D$ とすると、 $\mbox{\boldmath$x$}_i$ および $\mbox{\boldmath$y$}_i$ の主成分は、

$$\mbox{\boldmath$u$}_i = C^T \mbox{\boldmath$x$}_i$$

$$\mbox{\boldmath$v$}_i = D^T \mbox{\boldmath$y$}_i$$ (426)

により与えられる。ここで、係数行列は、固有値問題、

$$R_X C = C H \ \ (C^TC = I_P)$$

$$R_Y D = D M \ \ (D^TD = I_Q)$$ (427)

の解として求まる。

さらに、主成分 $\mbox{\boldmath$u$}_i$ および $\mbox{\boldmath$v$}_i$ を、

$$\hat{\mbox{\boldmath$u$}}_i = H^{-1/2} \mbox{\boldmath$u$}_i$$

$$\hat{\mbox{\boldmath$v$}}_i = M^{-1/2} \mbox{\boldmath$v$}_i$$ (428)

のように写像すると、その空間では、相関行列が

$$R_{\hat{U}} = \sum_{i=1}^n \hat{\mbox{\boldmath$u$}}_i \hat{\mbox{\boldmath$u$}}_i^T = I_P$$

$$R_{\hat{V}} = \sum_{i=1}^n \hat{\mbox{\boldmath$v$}}_i \hat{\mbox{\boldmath$v$}}_i^T = I_Q$$ (429)

のように単位行列となる。つまり、写像 $CH^{-1/2}$ あるいは $DM^{-1/2}$ は、変 量 $\hat{\mbox{\boldmath$u$}}$ あるいは $\hat{\mbox{\boldmath$v$}}$ の散らばりを平均的に無相関な単位球 とする正規化写像を構成する。

次に、無相関化された変量 $\hat{\mbox{\boldmath$u$}}_i$ と $\hat{\mbox{\boldmath$v$}}_i$ の間の正準相関 分析

$$\hat{\mbox{\boldmath$s$}}_i = \hat{A}^T \hat{\mbox{\boldmath$u$}}_i$$

$$\hat{\mbox{\boldmath$t$}}_i = \hat{B}^T \hat{\mbox{\boldmath$v$}}_i$$ (430)

を考えてみよう。この場合には、$R_{\hat{U}}$ および $R_{\hat{V}}$ は、単位行 列であるので、正準相関分析は、簡単化され、対応する固有値問題は、

$$R_{\hat{U}\hat{V}} R_{\hat{V}\hat{U}} \hat{A} = \hat{A} \Lambda^2 \ \ (\hat{A}^T \hat{A} = I_L)$$

$$R_{\hat{V}\hat{U}} R_{\hat{U}\hat{V}} \hat{B} = \hat{B} \Lambda^2 \ \ (\hat{B}^T \hat{B} = I_L)$$ (431)

となる。これは、 $R_{\hat{U}\hat{V}}$ の特異値分解に他ならない。また、前段の 主成分分析において、主成分を full-rank まで取ると、正規化空間での正準相関分 析（ $R_{\hat{U}\hat{V}}$ の特異値分解）は、もとの空間での正準相関分析に一致 することが示せる。つまり、正準相関分析は、正規化空間での相互相関 $R_{\hat{U}\hat{V}}$ の特異値分解であるといえる。