با سلام.بهتر هست فایل کمینهای که ارسال می کنین قابل اجرا شدن باشد.
برای رفع این مشکل می توانین جدول خود را در محیط scriptsize بیاورید.
\documentclass{article}
\usepackage{xepersian}
\settextfont{Yas}
\begin{document}
\begin{table}[ht]
\begin{center}
\begin{scriptsize}
\begin{tabular}{ | l | l | l | l | l | l| l | l | l | l | l | }
\hline
تعداد نرون دو لایه &40-40 &60-60 & 80-80 & 30-100 & 50-100 & 80- 100 &30-200 &50-200 &50-300 &50-400 \ \hline
\lr{RMSE } آموزش&
0.3856 & 0.3805 & 0.3775 & 0.3909 & 0.3829 & 0.3775 & 0.3910& 0.3826& 0.3826& 0.3826\ \hline
\lr{RMSE } آزمایش&
0.4004 & 0.4066 & 0.4755 & 0.4009 & 0.4016 & 0.4543& 0.4019& 0.3997& 0.3609& 0.3998 \ \hline
درصد \lr{Confusion } آزمایش& 72 & 63 & 25 & 72 & 70 & 30 & 70&73 &68 &72 \ \hline
\end{tabular}
\end{scriptsize}
\caption{تعداد نرون در دو لایه}
\end{center}
\end{table}
\end{document}