\documentclass{book}
\usepackage[super,sort&compress]{natbib}
\usepackage{amsthm,amssymb,amsmath,mathtools}
\usepackage{xepersian}
\settextfont{XB Zar}
\setdigitfont{Persian Modern}

\begin{document}

فرضیاتی برای اجتناب از پیچیدگی به شرح زیر می‌باشند:\cite{Nik} 
\bibliographystyle{unsrt-fa}
\bibliography{testref}

\end{document}