سلام
اون نقطه با دستور \thm@headpunct{.} تعریف میشه؛ کافیه ورودیشو خالی کنیم.
برای این کار میشه از بستهٔ xpatch استفاده کرد.
\documentclass[12pt]{report}
\usepackage{amsthm}
\usepackage{xpatch} % <--- added
\usepackage[computeautoilg=off,extrafootnotefeatures]{xepersian}
\settextfont[Scale=1]{B Nazanin}
\theoremstyle{definition}
\newtheorem{theorem}{قضیه}[chapter]
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
% added
\makeatletter
\AtBeginDocument{%
\xpatchcmd{\@thm}{\thm@headpunct{.}}{\thm@headpunct{}}{}{}
}
\makeatother
%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\begin{document}
\chapter{تست}
\begin{theorem}
$x=0$
نقطه تعادل سیستم غیرخطی مرتبهٔ کسری
\end{theorem}
\end{document}
