Xét phương trình hoành độ giao điểm của 2 đường:

$-x-m=\frac{x-2}{x-1}\Leftrightarrow -\left( x+m \right)\left( x-1 \right)=x-2\Leftrightarrow {{x}^{2}}+mx-m-2=0\,\left( * \right)$

Đồ thị hai hàm số cắt nhau tại 2 điểm phân biệt $\Leftrightarrow \left( * \right)$ có 2 nghiệm phân biệt khác 1

$\Leftrightarrow \Delta ={{m}^{2}}+4\left( m+2 \right)>0\Leftrightarrow {{\left( m+2 \right)}^{2}}+4>0$ (luôn đúng ∀m)

Và $1-m-m-2\ne 0\Leftrightarrow m\ne -\frac{1}{2}$

Giả sử tọa độ 2 giao điểm là $A\left( {{x}_{1}};-{{x}_{1}}-m \right),B\left( {{x}_{2}};-{{x}_{2}}-m \right)$ với ${{x}_{1}};{{x}_{2}}$là 2 nghiệm của (*)

Theo định lý Viet ta có $\left\{ \begin{align} & {{x}_{1}}+{{x}_{2}}=-m \\ & {{x}_{1}}{{x}_{2}}=-m-2 \\ \end{align} \right.$. Do đó

$AB=\sqrt{10}\Leftrightarrow \sqrt{{{\left( {{x}_{1}}-{{x}_{2}} \right)}^{2}}+{{\left( -{{x}_{1}}-m+{{x}_{2}}+m \right)}^{2}}}=\sqrt{10}\Leftrightarrow 2{{\left( {{x}_{1}}-{{x}_{2}} \right)}^{2}}=10$

$\Leftrightarrow {{\left( {{x}_{1}}+{{x}_{2}} \right)}^{2}}-4{{x}_{1}}{{x}_{2}}=5\Leftrightarrow {{\left( -m \right)}^{2}}-4\left( -m-2 \right)=5\Leftrightarrow {{m}^{2}}+4m+3=0$

$\Leftrightarrow \left[ \begin{align} & m=1 \\ & m=-3 \\ \end{align} \right.$

Vậy tổng bình phương các giá trị của m là ${{\left( -1 \right)}^{2}}+{{\left( -3 \right)}^{2}}=10$