خوب ماتریس شما بیش از حد بزرگه و رفتار لاتک طبیعیه. شما می‌تونید چند روش رو به کار ببرید:
۱- با تغییر اندازه‌ی قلم برای این فرمول. مثال زیر رو ببینید:
\[
\begingroup
\fontsize{8pt}{8pt}\selectfont
A=\begin{pmatrix}
a+b+c+d+e+f+g+h+i+j+k+l+m+n+o & a+b+c+d+e+f+g+h+i+j+k+l+m+n+o \\
a+b+c+d+e+f+g+h+i+j+k+l+m+n+o &a+b+c+d+e+f+g+h+i+j+k+l+m+n+o
\end{pmatrix}
\endgroup
\]
می‌تونید 8pt رو تغییر بدید به طوری که ماتریس در صفحه جا بشه.
۲- چرخوندن ماتریس با استفاده از بسته‌ی graphicx:
\[
\rotatebox{90}{$
A=\begin{pmatrix}
a+b+c+d+e+f+g+h+i+j+k+l+m+n+o & a+b+c+d+e+f+g+h+i+j+k+l+m+n+o \\
a+b+c+d+e+f+g+h+i+j+k+l+m+n+o &a+b+c+d+e+f+g+h+i+j+k+l+m+n+o
\end{pmatrix}
$}
\]
ویرایش:
به پیشنهاد سید جواد:
۳- استفاده از \scalebox:
\[
\scalebox{0.8}{$
A=\begin{pmatrix}
a+b+c+d+e+f+g+h+i+j+k+l+m+n+o & a+b+c+d+e+f+g+h+i+j+k+l+m+n+o \\
a+b+c+d+e+f+g+h+i+j+k+l+m+n+o &a+b+c+d+e+f+g+h+i+j+k+l+m+n+o
\end{pmatrix}
$}
\]
