Die Dgl. kann man in Matrix- / Vektorform so schreiben
$$ \begin{pmatrix} x_1''(t) \\ x_2''(t) \end{pmatrix} + \begin{pmatrix} \alpha+k & -k \\ -k & \alpha + k \end{pmatrix} \begin{pmatrix} x_1(t) \\ x_2(t) \end{pmatrix} = 0 $$ Das entspricht der Darstellung
$$ (1) \quad x''(t) + B x(t) = 0 $$ mit $$ B =\begin{pmatrix} \alpha+k & -k \\ -k & \alpha + k \end{pmatrix} $$ und $$ x(t) = \begin{pmatrix} x_1(t) \\ x_2(t) \end{pmatrix} $$
Die Matrix \( B \) ist diagonalisierbar. Nach Eigenwert- und Eigenvektorberechnung bekommt man $$ D = T^{-1} B T $$ mit $$ D = \begin{pmatrix} \alpha+2k & 0 \\ 0 & \alpha  \end{pmatrix} $$ und $$ T = \begin{pmatrix} -1 & 1 \\ 1 & 1 \end{pmatrix} $$
Damit kan man (1) auch so schreiben
$$ (2) \quad T^{-1} x''(t) + D T^{-1} x(t) = 0 $$
Setzt man $$ y(t) = T^{-1} x(t) $$ bekommt man die folgende Dgl.
$$ (3) \quad y''(t) + Dy(t) = 0 $$
Gleichung (3) kann man auflösen und man bekommt
$$ (4) \quad y_1''(t) + (\alpha + 2k) \cdot y_1(t) = 0 $$ bzw. $$ (5) \quad y_2''(t) + \alpha \cdot y_2(t) = 0  $$ mit den Anfangsbedingungen $$  y_1(0) = 0  ;   y_2(0) = 0  ;  y'_1(0) = \frac{y_0 - x_0}{2}  ;  y'_2(0) = \frac{y_0 +x_0}{2} $$
Die Lösungen von (4) und (5) sind
$$ (6) \quad y_1(t) = \frac{1}{\sqrt{\alpha+2k}} \sin\left( \sqrt{\alpha+2k} t \right) \frac{y_0 - x_0}{2} $$ und
$$ (7) \quad y_2(t) = \frac{1}{\sqrt{\alpha}} \sin\left( \sqrt{\alpha} t \right) \frac{y_0 + x_0}{2} $$
Die Lösungen bekommt man durch die folgende Transformation $$ \begin{pmatrix} x_1(t) \\ x_2(t) \end{pmatrix} = T \begin{pmatrix} y_1(t) \\ y_2(t) \end{pmatrix} $$
Das Ergebnis ist dann
$$ (8) \quad x_1(t) = \frac{1}{2} \left( \frac{1}{\sqrt{\alpha}} \sin\left( \sqrt{\alpha} t \right) (y_0+x_0) -  \frac{1}{\sqrt{\alpha+2k}} \sin\left( \sqrt{\alpha+2k} t \right) (y_0 - x_0) \right) $$
$$ (9) \quad x_2(t) = \frac{1}{2} \left( \frac{1}{\sqrt{\alpha}} \sin\left( \sqrt{\alpha} t \right) (y_0+x_0) +  \frac{1}{\sqrt{\alpha+2k}} \sin\left( \sqrt{\alpha+2k} t \right) (y_0 - x_0) \right) $$
Warum man die Matrix \( B \) als \( A^2 \) schreiben soll, erschliesst sich mir in diesem Zusammenhang nicht. Aber es gilt natürlich
$$ B = T D T^{-1} = T D^{\frac{1}{2}} T^{-1} T D^{\frac{1}{2}} T^{-1}  $$ Damit wäre die gesuchte Matrix $$ A = T D^{\frac{1}{2}} T^{-1}  $$  mit $$  D^{\frac{1}{2}} = \begin{pmatrix} \sqrt{\alpha+2k} & 0 \\ 0 & \sqrt{\alpha} \end{pmatrix} $$ die auch ex. weil die Größen in der Wurzel alle positiv sind.