سلام. سه روش زیر پیشنهاد من هست.
\documentclass{report}
\usepackage{amsthm,amsmath,amssymb}
\begin{document}
\begin{align}
h_1(x) & = \int_{a}^{x}(x-t)g(t)\;dt+\frac{(a-x)}{(b-a)+\lambda(\xi - a)}\left[ \int_{a}^{b}(b-t)g(t)\;dt +\lambda \int_{a}^{\xi}(\xi-t)g(t)\;dt \right]\nonumber \\
& \quad +\frac{(b-x)+\lambda(\xi -x)}{(b-a)+\lambda(\xi - a)}\alpha +\frac{(x-a)}{(b-a)+\lambda(\xi - a)}\beta.
\end{align}
\begin{equation}
\begin{split}
h_1(x) & = \int_{a}^{x}(x-t)g(t)\;dt+\frac{(a-x)}{(b-a)+\lambda(\xi - a)}\left[ \int_{a}^{b}(b-t)g(t)\;dt +\lambda \int_{a}^{\xi}(\xi-t)g(t)\;dt \right] \\
& \quad +\frac{(b-x)+\lambda(\xi -x)}{(b-a)+\lambda(\xi - a)}\alpha +\frac{(x-a)}{(b-a)+\lambda(\xi - a)}\beta.
\end{split}
\end{equation}
\begin{flalign}
h_1(x) & = \int_{a}^{x}(x-t)g(t)\;dt+\frac{(a-x)}{(b-a)+\lambda(\xi - a)}\left[ \int_{a}^{b}(b-t)g(t)\;dt +\lambda \int_{a}^{\xi}(\xi-t)g(t)\;dt \right]\nonumber \\
& \quad +\frac{(b-x)+\lambda(\xi -x)}{(b-a)+\lambda(\xi - a)}\alpha +\frac{(x-a)}{(b-a)+\lambda(\xi - a)}\beta.
\end{flalign}
\end{document}
