توی محیط align
نباید خط خالی داشته باشید:
\documentclass{book}
\usepackage{amsmath}
\begin{document}
\begin{align*}
\sigma (P) &=\{ {\lambda \in C:\det (P(\lambda )) = 0} \} = \{ {\lambda \in C:\det (I\lambda - A) = 0}\} \\
&= \{ {\lambda \in C:0 \in \sigma (I\lambda - A)}\} =\{ {\lambda \in C:0 \in \lambda - \sigma (A)} \} = \sigma (A)
\end{align*}
\end{document}