سلام
در فایلی که پیوست کردی، بسته xepersian آخرین بسته فراخوانی باید باشه.
بصورت زیر:
\documentclass[12pt]{book}
\usepackage{graphicx,hyperref,fancyhdr,amsmath,amssymb,mathrsfs,color,xspace}
\usepackage{geometry}
\usepackage{amsthm}
\usepackage{float}
\geometry{verbose,a4paper, tmargin=3cm, bmargin=2.5cm, lmargin=2.5cm, rmargin=4cm, footskip=1.6cm}
\renewcommand{\baselinestretch}{1.9}
\usepackage{pdfsync}
\usepackage{xepersian}
\settextfont[Scale=1.1]{Yas}
\setdigitfont[Scale=1.1]{Yas}
\newfontinstance\nastaliq[Script=Arabic,Scale=1.5]{IranNastaliq}
\newcommand{\translation}[1]{\LTRfootnote{\rmfamily #1}}
\newcommand{\Eng}[1]{{\rmfamily #1}}
\newcommand{\EW}[1]{\lr{\scriptsize #1}}
\graphicspath{{Figures/}}
%\usepackage[small]{caption}
\def\addsymbol #1---#2#3{$#1$ \> \parbox{5in}{#2 \dotfill \pageref{#3}}\\}
\def\symboldisplay#1{\label{#1}}
%\newenvironment{proof}{{\bf اثبات. } \rm }{\hfill{$\Box$}\\}
\newcommand{\f}{\rm{fPp}}
%%%%%%%%%%%%%%%%%%%%%%%
\begin{document}
\begin{proof}
\begin{equation*}
y^{2}+5y=0 \qedhere
\end{equation*}
\end{proof}
%%%
\begin{proof}
این یک آزمایش است. این یک آزمایش است. این یک آزمایش است. این یک آزمایش است. این یک آزمایش است. این یک آزمایش است.
\qedhere
\end{proof}
\end{document}
خروجی:
توجه: بسته amsthm فراخوانی شده دیگه نیازی به دستور زیر نبود غیرفعال شده و در آخر معادله از دستور \qedhere بکار بردم.
\newenvironment{proof}{{\bf اثبات. } \rm }{\hfill{$\Box$}\\}
