توی محیط ریاضی از array به جای tabular استفاده میشود. همچنین به هیچ عنوان از \LTR و \RTL استفاده نکنید. کد خود را به این صورت تغییر دهید:
\documentclass[a4]{book}
\usepackage{amsthm,amssymb,amsmath}
\usepackage{xepersian}
\settextfont[Scale=1]{XB Niloofar}%{IRLotus}
\setlatintextfont[Scale=0.9]{Times New Roman}
\setdigitfont[Scale=0.9]{Persian Modern}%{XB Zar}
\begin{document}
\chapter{تست 1}
\chapter{تست 2}
میزان تورفتگی اول پاراگراف تست می شود میزان تورفتگی اول پاراگراف تست می شود میزان تورفتگی اول پاراگراف تست می شود میزان تورفتگی اول پاراگراف تست می شود میزان تورفتگی اول پاراگراف تست می شود میزان تورفتگی اول پاراگراف تست می شود میزان تورفتگی اول پاراگراف تست می شود میزان تورفتگی اول پاراگراف تست می شود
\begin{equation}
\begin{array}{ll}
SSE_2[l]-SSE_1[l] & =\ \sum_{2\le j\le n+1}{{\left(X_j[l]-C^{n+1}_2[l]\right)}^2}-\sum_{1\le j\le n}{{\left(X_j[l]-C^n_1[l]\right)}^2}$ \\ & $=\sum_{2\le j\le n}{\left[{\left(X_j[l]-C^{n+1}_2[l]\right)}^2-{\left(X_j[l]-C^n_1[l]\right)}^2\right]}$ \\ & \ \ \ $+{\left(X_{n+1}[l]-C^{n+1}_2[l]\right)}^2-{\left(X_1[l]-C^n_1[l]\right)}^2$\\ & $={\Delta [l]\left(\left(1-n\right)\Delta [l]+2n\left(X_{n+1}[l]-C^{n+1}_2[l]\right)\right)}/{n}
\end{array}
\end{equation}
این محاسبه به $O(1)$ عملیات نیازمند است.
\end{document}
دقت کنید که استفاده از array دقیقا مانند tablular هست فقط چون array خودش در محیط ریاضی است دیگر به علامت ها $ نیازی ندارید.