# 第19章 練習問題

## 1.

$\mathbf{a}$を (制約のない) 変数の$n$次元列ベクトルとし, $n\times n$行列$\mathbf{V}$と$n$次元列べ クトル$\mathbf{b}$に対して$f(\mathbf{a})=\mathbf{a}^{\prime} \mathbf{V a}-2 \mathbf{b}^{\prime} \mathbf{a}$と定義する. もし$\mathbf{V}$が非負定値でなければ, あるいはもし$\mathbf{b} \notin \mathcal{C}(\mathbf{V})$ならば, $f(\mathbf{a})$は下に有界でない, すなわち, 任意のスカラー$c$に対応してベクトル$\mathbf{a}_*$が存在して$f\left(\mathbf{a}_*\right)\lt c$となることを示せ.

----

解.

## 2.

$\mathbf{V}$を$n\times n$対称行列, $\mathbf{X}$を$n\times p$行列とする.$p\times p$行列$\mathbf{U}$で$\boldsymbol{C}(\mathbf{X}) \subset \mathcal{C}\left(\mathbf{V}+\mathbf{X} \mathbf{U} \mathbf{X}^{\prime}\right)$を満たすものに対して, 次のことを示せ.

$\mathbf{(1)}$ $\left(\mathbf{V}+\mathbf{X} \mathbf{U} \mathbf{X}^{\prime}\right)\left(\mathbf{V}+\mathbf{X} \mathbf{U} \mathbf{X}^{\prime}\right)^{-} \mathbf{V}=\mathbf{V}$.
$\mathbf{(2)}$ $\mathbf{V}\left(\mathbf{V}+\mathbf{X} \mathbf{U} \mathbf{X}^{\prime}\right)^{-}\left(\mathbf{V}+\mathbf{X} \mathbf{U} \mathbf{X}^{\prime}\right)=\mathbf{V}$.

----

解.

## 3.

19.3c節では, 定理 19.3.3 を「最初から」証明した. 定理 11.11.1 を用いて定理 19.3.3 の短い証明を考え出せ.

----

解.

## 4.

$\mathbf{V}$を$n\times n$対称行列, $\mathbf{X}$を$n\times p$行列とする. 更に, 行列$\mathbf{T}$を列が$\mathbf{V}$の零空間を張るものとして, $\mathbf{U}=\mathbf{X}^{\prime} \mathbf{T} \mathbf{T}^{\prime} \mathbf{X}$と置く. 特に$\mathbf{V}$が非負定値の場合には (19.3c 節で)既に証明したが, 一般に, $\mathcal{C}(\mathbf{X}) \subset \mathcal{C}\left(\mathbf{V}+\mathbf{X} \mathbf{U} \mathbf{X}^{\prime}\right)$で, $\mathcal{C}(\mathbf{V}), \mathcal{C}\left(\mathbf{X} \mathbf{U} \mathbf{X}^{\prime}\right)$は本質的に互いに素で, $\mathcal{R}(\mathbf{V}), \mathcal{R}\left(\mathbf{X U} \mathbf{X}^{\prime}\right)$は本質的に互いに素なことを示せ.

----

解.

## 5.

$\mathbf{V}$を$n\times n$対称非負定値行列, $\mathbf{X}$を$n\times p$行列とする. 更に, 行列$\mathbf{Z}$を列が$\mathcal{N}\left(\mathbf{X}^{\prime}\right)$すなわち$\mathcal{C}^{\perp}(\mathbf{X})$を張るものとする. そして練習問題$17.20$と同じ用語を 用いる.

$\mathbf{(a)}$ 練習問題$17.20$の$\mathbf{(a)}$の結果（あるいは他のもの）を用いて, $n\times n$行列$\mathbf{H}$は, $\mathbf{H}^{\prime}$が$(n\times n$行列$\mathbf{A}$と$p\times n$行列$\mathbf{R}$に関する) 無矛盾な線形系

$$
\begin{pmatrix}
\mathbf{V} & \mathbf{X} \\
\mathbf{X}^{\prime} & \mathbf{0}
\end{pmatrix}\begin{pmatrix}
\mathbf{A} \\
\mathbf{R}
\end{pmatrix}=\begin{pmatrix}
\mathbf{0} \\
\mathbf{X}^{\prime}
\end{pmatrix}
$$

の解の第1の$(n\times n$の$)$の部分のときかつそのときに限って, $\mathcal{C}(\mathbf{V Z})$に沿っての$\mathcal{C}(\mathbf{X})$に対する射影行列となることを示せ.

$\mathbf{(b)}$ $p\times p$行列$\mathbf{U}$を$\mathcal{C}(\mathbf{X}) \subset \mathcal{C}\left(\mathbf{V}+\mathbf{X} \mathbf{U} \mathbf{X}^{\prime}\right)$を満たすもの, $\mathbf{W}$を$\mathbf{V}+\mathbf{X} \mathbf{U} \mathbf{X}^{\prime}$の任意の一般逆行列とする.$n\times n$行列$\mathbf{H}$は, ある$n\times n$行列$\mathbf{K}$に対して

$$
\mathbf{H}=\mathbf{P}_{\mathbf{X}, \mathbf{w}}+\mathbf{K}\left[\mathbf{I}-\left(\mathbf{V}+\mathbf{X U} \mathbf{X}^{\prime}\right) \mathbf{W}\right]
$$

のときかつそのときに限って, $\mathcal{C}(\mathbf{V Z})$に沿っての$\mathcal{C}(\mathbf{X})$に対する射影行列となることを示せ.

----

解.

## 6.

$\mathbf{V}$を$n\times n$対称非負定値行列, $\mathbf{W}$を$n\times n$行列, $\mathbf{X}$を$n\times p$行列とする. 行 列$\mathbf{W X}\left(\mathbf{X}^{\prime} \mathbf{W X}\right)^{-} \mathbf{X}^{\prime}$が$(n\times n$行列$\mathbf{A}$と$p\times n$行列$\mathbf{R}$に関する）（無矛盾な） 線形系

$$
\begin{pmatrix}
\mathbf{V} & \mathbf{X} \\
\mathbf{X}^{\prime} & \mathbf{0}
\end{pmatrix}\begin{pmatrix}
\mathbf{A} \\
\mathbf{R}
\end{pmatrix}=\begin{pmatrix}
\mathbf{0} \\
\mathbf{X}^{\prime}
\end{pmatrix}
$$

のある解の第1の$(n\times n)$の部分であるためには, $\mathcal{C}(\mathbf{V W X}) \subset \mathcal{C}(\mathbf{X})$かつ$\operatorname{rank}\left(\mathbf{X}^{\prime} \mathbf{W} \mathbf{X}\right)=\operatorname{rank}(\mathbf{X})$が必要十分であることを示せ.

----

解.

## 7.

$\mathbf{a}$を変数の$n$次元列ベクトルとし, $n\times p$行列$\mathbf{X}$と$p$次元列ベクトル$\mathbf{d}$で$\mathbf{d} \in$$\mathcal{C}\left(\mathbf{X}^{\prime}\right)$となるものを用いて$\mathbf{a}$に制約$\mathbf{X}^{\prime} \mathbf{a}=\mathbf{d}$を課す.$n\times n$対称非負定値行列$\mathbf{V}$と$n$次元列ベクトル$\mathbf{b}$で$\mathbf{b} \in \mathcal{C}(\mathbf{V}, \mathbf{X})$となるものに対して$f(\mathbf{a})=\mathbf{a}^{\prime} \mathbf{V a}-2 \mathbf{b}^{\prime} \mathbf{a}$と定義する. 更に, $n\times n$行列$\mathbf{W}$で$\mathcal{C}(\mathbf{W}) \subset \mathcal{C}(\mathbf{X}), \mathcal{R}(\mathbf{W}) \subset \mathcal{R}\left(\mathbf{X}^{\prime}\right)$を満たすものと, $\mathcal{C}(\mathbf{X})$の中の任意の$n$次元列ベクトル$\mathbf{c}$に対して$g(\mathbf{a})=\mathbf{a}^{\prime}(\mathbf{V}+\mathbf{W}) \mathbf{a}-2(\mathbf{b}+\mathbf{c})^{\prime} \mathbf{a}$

と定義する. $g(\mathbf{a})$が制約$\left(\mathbf{X}^{\prime} \mathbf{a}=\mathbf{d}\right)$の下で最小になることは$(g(\mathbf{a}), f(\mathbf{a})$が同じ点において最小値に達するという意味において)$f(\mathbf{a})$が同じ制約の下で最小になることに同値なことを示せ

----

解.

## 8.

任意の $n \times n$ 対称行列 $\mathbf{A}$ に対して, $\mathbf{A} \mathbf{A}^{+}=\mathbf{A}^{+} \mathbf{A}$ が成り立つことを示せ.

----

解.(kumada)

$\mathbf{A A}^{+}=\mathbf{A}^{+} \mathbf{A}$ は定理20.5.1の(2)の直接的な帰結である。
また、この等式は定理20.5.3の(2)を利用することでも示すことができる。
$$
\mathbf{A A}^{+}=\left(\mathbf{A A}^{+}\right)^{\prime}=\left(\mathbf{A}^{+}\right)^{\prime} \mathbf{A}^{\prime}=\left(\mathbf{A}^{+}\right)^{\prime} \mathbf{A}=\mathbf{A}^{+} \mathbf{A} .
$$

> 定理 20.5.1. 任意の行列$\mathbf{A}$に対して、次のことが成り立つ。
(1) $\operatorname{rank}\left(\mathbf{A}^{+}\right)=\operatorname{rank}(\mathbf{A})$.
(2) $\mathbf{A}^{+} \mathbf{A}=\mathbf{P}_{\mathbf{A}^{\prime}}, \mathbf{A A}^{+}=\mathbf{P}_{\mathbf{A}}$.　★
(3) $\mathcal{C}\left(\mathbf{A}^{+}\right)=\mathcal{C}\left(\mathbf{A}^{\prime}\right), \mathcal{R}\left(\mathbf{A}^{+}\right)=\mathcal{R}\left(\mathbf{A}^{\prime}\right)$.
(4) $\mathcal{N}\left(\mathbf{A}^{+}\right)=\mathcal{C}^{\perp}(\mathbf{A})=\mathcal{N}\left(\mathbf{A}^{\prime}\right)$

> 定理 20.5.3. $\mathbf{A}$を$m \times n$行列とすると、次のことが成り立つ。
(1)$\left(\mathbf{A}^{\prime}\right)^{+}=\left(\mathbf{A}^{+}\right)^{\prime}$.
(2) もし$\mathbf{A}$が対称ならば、$\mathbf{A}^{+}$も対称である.　 ★
(3) もし$\mathbf{A}$か対称かつ半正定值ならば、$\mathbf{A}^{+}$も対称かつ半正定值である。もし$\mathbf{A}$ が対称かつ正定值ならば、$\mathbf{A}^{+}$も対称かつ正定值である (そしてもし$\mathbf{A}$が対称かつ非負定值ならば、$\mathbf{A}^{+}$も対称かつ非負定值である)。
(4) $\left(\mathbf{A}^{+}\right)^{+}=\mathbf{A}$.

## 9.

$\mathbf{V}$ を $n \times n$ 対称非負定值行列, $\mathbf{X}$ を $n \times p$ 行列, $\mathbf{d}$ を $p$ 次元列ベクトルとする. 練習問題 8 と $19.11$ の結果 (あるいは他のもの) を用いて, あらゅる $\mathbf{d} \in \mathcal{C}\left(\mathbf{X}^{\prime}\right)$ に対して, $\mathbf{X}^{\prime} \mathbf{a}=\mathbf{d}$ の下で ( $\mathbf{a}$ に関する) 二次形式 $\mathbf{a}^{\prime} \mathbf{V a}$ を最小にする問題につ いて, ベクトル $\mathbf{X}\left(\mathbf{X}^{\prime} \mathbf{X}\right)^{-} \mathbf{d}$ が解となるためには, $\mathcal{C}\left(\mathbf{V}^{+} \mathbf{X}\right) \subset \mathcal{C}(\mathbf{X})$ であるこ とが必要十分であることを示せ.

----

解. (Hamada)

練習問題 19.11 の結果 (a) より、$\mathcal{C}(\mathbf{V X}) \subset$ $\mathcal{C}(\mathbf{X}) \Leftrightarrow \mathcal{C}\left(\mathbf{V}^{+} \mathbf{X}\right) \subset \mathcal{C}(\mathbf{X})$ を示せばよい。以下これを示す。

$\mathcal{C}(\mathbf{V X}) \subset \mathcal{C}(\mathbf{X})$ と仮定すると、ある行列 $\mathbf{Q}$ が存在して $\mathbf{V X}=\mathbf{X} \mathbf{Q}$ が成り立つ。 また練習問題 8 の結果より、
$$
\mathbf{V X}=\mathbf{V V}^{+} \mathbf{V X}=\mathbf{V V}^{+} \mathbf{XQ}=\mathbf{V}^{+} \mathbf{V X Q}=\mathbf{V}^{+} \mathbf{X Q}^2
$$
であるから $\mathcal{C}(\mathbf{V X}) \subset \mathcal{C}\left(\mathbf{V}^{+} \mathbf{X}\right)$ が成り立つ。

さらに、 定理 20.5.3 より $\mathrm{V}^{+}$ は対称非負定値なので、補助定理 14.11.2 と練習問題 8 の結果より
$$
\begin{aligned}
\operatorname{rank}(\mathbf{V X}) \geq \operatorname{rank}\left(\mathbf{V}^{+} \mathbf{V} X\right)=\operatorname{rank}\left(\mathbf{V V}^{+} \mathbf{X}\right) & \geq \operatorname{rank}\left(\mathbf{X}^{\prime} \mathbf{V}^{+} \mathbf{V} \mathbf{V}^{+} \mathbf{X}\right) \\
&=\operatorname{rank}\left(\mathbf{X}^{\prime} \mathbf{V}^{+} \mathbf{X}\right)=\operatorname{rank}\left(\mathbf{V}^{+} \mathbf{X}\right)
\end{aligned}
$$
が成り立つ。

> 定理20.5.3 (3) (一部)
> もし行列 $\mathbf{A}$ が対称かつ非負定值ならば, $\mathbf{A}^{+}$も対称かつ非負定值である。

> 補助定理 14.11.2 (一部)
> 任意の $m \times n$ 行列 $\mathbf{A}$ と任意の $m \times m$ 対称非負定值行列 $\mathbf{W}$ に対して, $\operatorname{rank}\left(\mathbf{A}^{\prime} \mathbf{W A}\right)=$ $\operatorname{rank}(\mathbf{W A})$ が成り立つ.

よって $\operatorname{rank}(\mathbf{V X})$ $=\operatorname{rank}\left(\mathbf{V}^{+} \mathbf{X}\right)$ であり $\mathcal{C}(\mathbf{V X})=\mathcal{C}\left(\mathbf{V}^{+} \mathbf{X}\right)$ である。従って $\mathcal{C}\left(\mathbf{V}^{+} \mathbf{X}\right) \subset \mathcal{C}(\mathbf{X})$ が成り立つ。

逆に、$\mathcal{C}\left(\mathbf{V}^{+} \mathbf{X}\right) \subset \mathcal{C}(\mathbf{X})$ と仮定すると、ある行列 $\mathbf{R}$ が存在して $\mathbf{V}^{+} \mathbf{X}=\mathbf{X R}$ が成り立つ。また練習問題 8 の結果より、
$$
\mathbf{V}^{+} \mathbf{X}=\mathbf{V}^{+} \mathbf{V} \mathbf{V}^{+} \mathbf{X}=\mathbf{V}^{+} \mathbf{V} \mathbf{XR}=\mathbf{V V}^{+} \mathbf{X R}=\mathbf{V X R}^2
$$
であるから $\mathcal{C}\left(\mathbf{V}^{+} \mathbf{X}\right) \subset \mathcal{C}(\mathbf{V X})$ が成り立つ。
さらに、補助定理 14.11.2 と練習問題 8 の結果より
$$
\begin{aligned}
\operatorname{rank}\left(\mathbf{V}^{+} \mathbf{X}\right) \geq \operatorname{rank}\left(\mathbf{V V}^{+} \mathbf{X}\right)=\operatorname{rank}\left(\mathbf{V}^{+} \mathbf{V} \mathbf{X}\right) & \geq \operatorname{rank}\left(\mathbf{X}^{\prime} \mathbf{V} \mathbf{V}^{+} \mathbf{V} \mathbf{X}\right) \\
&=\operatorname{rank}\left(\mathbf{X}^{\prime} \mathbf{V X}\right)=\operatorname{rank}(\mathbf{V X}),
\end{aligned}
$$
が成り立つ。よって $\operatorname{rank}\left(\mathbf{V}^{+} \mathbf{X}\right)=\operatorname{rank}(\mathbf{V X})$ であり $\mathcal{C}\left(\mathbf{V}^{+} \mathbf{X}\right)=\mathcal{C}(\mathbf{V X})$ である。従って $\mathcal{C}(\mathbf{V X}) \subset \mathcal{C}(\mathbf{X})$ が成り立つ。

## 10.

$\mathbf{V}$を$n\times n$対称正定値行列, $\mathbf{W}$を$n\times n$行列, $\mathbf{X}$を$n\times p$行列, $\mathbf{d}$を$p$次元列ベクトルとする. このとき, ベクトル$\mathbf{W} \mathbf{X}\left(\mathbf{X}^{\prime} \mathbf{W} \mathbf{X}\right)^{-} \mathbf{d}$が, あらゆる$\mathbf{d} \in \mathcal{C}\left(\mathbf{X}^{\prime}\right)$に対 して, $\mathbf{X}^{\prime} \mathbf{a}=\mathbf{d}$の下での ($\mathbf{a}$に関する) 二次形式$\mathbf{a}^{\prime} \mathbf{V a}$を最小にする問題の解とな るためには, $\mathbf{V}^{-1} \mathbf{P}_{\mathbf{X}, \mathbf{w}^{\prime}}$が対称でかつ$\operatorname{rank}\left(\mathbf{X}^{\prime} \mathbf{W} \mathbf{X}\right)=\operatorname{rank}(\mathbf{X})$が必要十分であることを示せ. また$\left(\mathbf{I}-\mathbf{P}_{\mathbf{X}, \mathbf{w}^{\prime}}^{\prime}\right) \mathbf{V}^{-1} \mathbf{P}_{\mathbf{X}, \mathbf{W}^{\prime}}=\mathbf{0}, \operatorname{rank}\left(\mathbf{X}^{\prime} \mathbf{W X}\right)=\operatorname{rank}(\mathbf{X})$が成り立つことも必要十分であることを示せ.

----

解.

## 11.

$\mathbf{V}$を$n\times n$対称非負定値行列, $\mathbf{X}$を$n\times p$行列, $\mathbf{d}$を$p$次元列ベクトルとする. あらゆる$\mathbf{d} \in \mathcal{C}\left(\mathbf{X}^{\prime}\right)$に対して, $\mathbf{X}^{\prime} \mathbf{a}=\mathbf{d}$の下で ($\mathbf{a}$に関する) 二次形式$\mathbf{a}^{\prime} \mathbf{V a}$を最小にする問題について, 次の 6 つの条件の各々はベクトル$\mathbf{X}\left(\mathbf{X}^{\prime} \mathbf{X}\right)^{-} \mathbf{d}$が解 であるために必要十分であることを示せ.

$\mathbf{(a)}$ $\mathcal{C}(\mathbf{V X}) \subset \mathcal{C}(\mathbf{X})$(すなわち, ある行列$\mathbf{Q}$に対して$\mathbf{V X}=\mathbf{X} \mathbf{Q}$) .

$\mathbf{(b)}$ $\mathbf{P}_{\mathbf{x}} \mathbf{V}\left(I-\mathbf{P}_{\mathbf{x}}\right)=\mathbf{0}$(すなわち, $\mathbf{P}_{\mathbf{x}} \mathbf{V}=\mathbf{P}_{\mathbf{x}} \mathbf{V P}_{\mathbf{x}}$).

$\mathbf{(c)}$ $\mathbf{P}_{\mathbf{x}} \mathbf{V}=\mathbf{V P}_{\mathbf{x}}$(すなわち, $\mathbf{P}_{\mathbf{x}} \mathbf{V}$は対称).

$\mathbf{(d)}$ $\mathcal{C}(\mathbf{V P} \mathbf{x}) \subset \mathcal{C}(\mathbf{P} \mathbf{x})$.

$\mathbf{(e)}$ $\mathcal{C}\left(\mathbf{V P}_{\mathbf{x}}\right)=\mathcal{C}(\mathbf{V}) \cap \mathcal{C}\left(\mathbf{P}_{\mathbf{X}}\right)$.

$\mathbf{(f)}$ $\mathcal{C}(\mathbf{V} \mathbf{X})=\mathcal{C}(\mathbf{V}) \cap \mathcal{C}(\mathbf{X})$

----

解.

## 12.

$\mathbf{V}$を$n\times n$対称非負定値行列, $\mathbf{W}$を$n\times n$行列, $\mathbf{X}$を$n\times p$行列, $\mathbf{d}$を$p$次元列ベクトルとする. 更に, $\mathbf{K}$を$n\times q$行列で$\mathcal{C}(\mathbf{K})=\mathcal{C}\left(\mathbf{I}-\mathbf{P}_{\mathbf{X}, \mathbf{w}^{\prime}}\right)$を満たすものとする. もし$\operatorname{rank}\left(\mathbf{X}^{\prime} \mathbf{W X}\right)=\operatorname{rank}(\mathbf{X})$ならば, あらゆる$\mathbf{d} \in \mathcal{C}\left(\mathbf{X}^{\prime}\right)$に対して, $\mathbf{X}^{\prime} \mathbf{a}=\mathbf{d}$の下で$(\mathbf{a}$に関する$)$二次形式$\mathbf{a V a}$を最小にする問題につい て, 次の 2 つの条件の各々はベクトル$\mathbf{W X}\left(\mathbf{X}^{\prime} \mathbf{W X}\right)^{-} \mathbf{d}$が解となるために必要十分であることを示せ.

$\mathbf{(a)}$ ある$p\times p$行列$\mathbf{R}_1$とある$n\times n$行列$\mathbf{R}_2$に対して$\mathbf{V}=\mathbf{X R}_1 \mathbf{X}^{\prime}+\left(\mathbf{I}-\mathbf{P}_{\mathbf{X}, \mathbf{w}^{\prime}}\right) \mathbf{R}_2\left(\mathbf{I}-\mathbf{P}_{\mathbf{X}, \mathbf{w}^{\prime}}\right)^{\prime}$である.

$\mathbf{(b)}$ ある$p\times p$行列$\mathbf{S}_1$とある$q\times q$行列$\mathbf{S}_2$に対して$\mathbf{V}=\mathbf{X} \mathbf{S}_1 \mathbf{X}^{\prime}+\mathbf{K S}_2 \mathbf{K}^{\prime}$である.

またもし$\operatorname{rank}\left(\mathbf{X}^{\prime} \mathbf{W X}\right)=\operatorname{rank}(\mathbf{X})$でかつ$\mathbf{W}$が非特異ならば, 次のことも必要十分条件であることを示せ.

$\mathbf{(c)}$ あるスカラー$t$とある$p\times p$行列$\mathbf{T}_1$とある$q\times q$行列$\mathbf{T}_2$に対して$\mathbf{V}=t \mathbf{W}^{-1}+\mathbf{X} \mathbf{T}_1 \mathbf{X}^{\prime}+\mathbf{K T} \mathbf{T}_2 \mathbf{K}^{\prime}$である.

（ヒント：条件$\mathbf{(a)}$の必要性を証明するには, ある行列$\mathbf{C}$に対して$\mathbf{V}=\mathbf{C C}^{\prime}$を確かめ, $\mathbf{C}=\mathbf{P}_{\mathbf{X}, \mathbf{w}^{\prime}} \mathbf{C}+\left(\mathbf{I}-\mathbf{P}_{\mathbf{X}, \mathbf{w}^{\prime}}\right) \mathbf{C}$と表すことから始めよ.)

----

解.