実数$x,\ y,\ t$に対して，行列
\[ A=\left( \begin{array}{cc}
x & y \\
-t-x & -x
\end{array} \right),\quad B=\left( \begin{array}{rr}
5 & 4 \\
-6 & -5
\end{array} \right) \]
を考える．$(AB)^2$が対角行列，すなわち$\left( \begin{array}{cc}
\alpha & 0 \\
0 & \beta
\end{array} \right)$の形の行列であるとする．

(1)命題「$3x-3y-2t \neq 0 \ \Longrightarrow \ A=tB$」を証明せよ．
以下(2)，(3)，(4)では，さらに$A^2 \neq E$かつ$A^4=E$であるとする．ただし，$E$は単位行列を表す．
(2)$3x-3y-2t=0$を示せ．
(3)$x$と$y$をそれぞれ$t$の式で表せ．
(4)$x,\ y,\ t$が整数のとき，行列$A$を求めよ．

$S=\left( \begin{array}{cc}
2+3 \cos 2\theta & 3 \sin 2\theta \\
3 \sin 2\theta & 2-3 \cos 2\theta
\end{array} \right)$とする．以下，$\left( \begin{array}{cc}
\alpha & 0 \\
0 & \beta
\end{array} \right)$の形の行列を対角行列と呼ぶ．

(1)$Q=\left( \begin{array}{cc}
\cos \theta & -\sin \theta \\
\sin \theta & \cos \theta
\end{array} \right)$とするとき，$D=Q^{-1}SQ$が対角行列になることを示せ．
(2)$2 \times 2$行列$X$が$XD=DX$を満たすとき，$X$は対角行列になることを示せ．
(3)$2 \times 2$行列$T$が$TS=ST$を満たすとき，$Q^{-1}TQ$は対角行列になることを示せ．

$a,\ b,\ c$は$0$でない実数とする．行列$A=\left( \begin{array}{cc}
a & b \\
b & c
\end{array} \right)$について，以下の問いに答えよ．

(1)$BAB$は対角行列，かつ，$B^2$は単位行列とするとき，$B=\left( \begin{array}{cc}
p & q \\
q & r
\end{array} \right)$の成分はすべて実数であることを示せ．
(2)$\displaystyle a=\frac{5}{8},\ b=-\frac{1}{2},\ c=\frac{1}{3}$とする．自然数$n$に対して$\left( \begin{array}{c}
x_n \\
y_n
\end{array} \right)=A^n \left( \begin{array}{c}
3 \\
4
\end{array} \right)$とする．このとき，$\displaystyle \lim_{n \to \infty}x_n=0$かつ$\displaystyle \lim_{n \to \infty}y_n=0$を示せ．

実数を成分とする行列
\[ M=\left( \begin{array}{cc}
1 & b \\
b & 1-a
\end{array} \right),\quad M^\prime=\left( \begin{array}{cc}
1 & b^\prime \\
b^\prime & 1-a^\prime
\end{array} \right),\quad P=\left( \begin{array}{cc}
\cos \theta & -\sin \theta \\
\sin \theta & \cos \theta
\end{array} \right) \]
が$MM^\prime=M^\prime M$，$a \neq 0$，$a^\prime \neq 0$を満たし，$P^{-1}MP$が対角行列であるとする．ここで，対角行列とは$\left( \begin{array}{cc}
\alpha & 0 \\
0 & \beta
\end{array} \right)$の形の行列である．

(1)$a,\ b,\ a^\prime,\ b^\prime$の間に成り立つ関係式を求めよ．
(2)$\tan 2\theta$を$a,\ b$を用いた式で表せ．
(3)$P^{-1}M^\prime P$が対角行列であることを示せ．