فایل شما مشکلاتی دارد و به نظر میاد که از آخرین نگارش زیپرشین استفاده نمی‌کنید.
پیشنهاد می‌کنم زیپرشین خود را بروز کنید. سپس به صورت زیر استفاده کنید:
\documentclass{book}
\usepackage{mathtools,amsthm,amsfonts}
\usepackage{xepersian}
\settextfont{HM XNiloofar}
\setlatintextfont{Times New Roman}
\newtheoremstyle{mydef}
{\topsep} % ABOVESPACE
{\topsep} % BELOWSPACE
{\itshape} % BODYFONT
{} % INDENT (empty value is the same as 0pt)
{\bfseries} % HEADFONT
{} % HEADPUNCT
{5pt plus 1pt minus 1pt} % HEADSPACE
{} % CUSTOM-HEAD-SPEC
\theoremstyle{mydef}
\newtheorem{tamr}{تمرین}
\begin{document}
\begin{tamr}
مثال
\end{tamr}
\end{document}
دقت کنید که
1. بسته‌ها را به صورت \usepackage{mathtools,amsthm,amsfonts} فراخوانی کنید.
2. فونتهای مناسب فارسی و انگلیسی را حتما تعیین کنید.
