Điều kiện: $x\ge 1$

Phương trình đã cho tương đương

$2\sqrt{x-1}+\sqrt{\left( x-1 \right)\left( x+1 \right)}=3\left( x-1 \right)\Leftrightarrow \left[ \begin{align} & \sqrt{x-1}=0\Leftrightarrow x=1 \\ & 2+\sqrt{x+1}=3\sqrt{x-1}\,\left( * \right) \\ \end{align} \right.$

Phương trình (*)  tương đương 

$4+4\sqrt{x+1}+x+1=9\left( x-1 \right)\Leftrightarrow 4\sqrt{x+1}=8x-14$

$\Leftrightarrow \left\{ \begin{align} & x\ge \frac{11}{8} \\ & 4\left( x+1 \right)={{\left( 8x-11 \right)}^{2}} \\ \end{align} \right.$$\Leftrightarrow \left\{ \begin{align} & x\ge \frac{7}{4} \\ & 16\left( x+1 \right)={{\left( 8x-14 \right)}^{2}} \\ \end{align} \right.$$\Leftrightarrow \left\{ \begin{align} & x\ge \frac{7}{4} \\ & x\in \left\{ \frac{15+3\sqrt{5}}{8};\frac{15-3\sqrt{5}}{8} \right\} \\ \end{align} \right.\Rightarrow x=\frac{15+3\sqrt{5}}{8}$

Từ đó suy ra: $\left\{ \begin{align} & a=15 \\ & b=5 \\ \end{align} \right.\Rightarrow S=a+b=20$