Bài giải:

Gọi (d) là đường thẳng: $y=\frac{2-m}{m-1}x+\frac{1}{m-1}\text{  (m}\ne \text{1;m}\ne \text{2)}$

A, B lần lượt là giao điểm của đường thẳng (d) với các trục Oy; Ox

Kẻ $OH\bot d$ tại H suy ra OH là khoảng cách từ O đến (d)

A là giao điểm của (d) với Oy $\Rightarrow A\left( 0;\frac{1}{m-1} \right)$

B là giao điểm của (d) với Ox nên hoành độ của B là nghiệm của pt:

$\frac{2-m}{m-1}x+\frac{1}{m-1}=0\Leftrightarrow \frac{2-m}{m-1}x=\frac{-1}{m-1}\Leftrightarrow x=\frac{-1}{m-1}:\frac{2-m}{m-1}=\frac{1}{m-2}$

$\Rightarrow B\left( \frac{1}{m-2};0 \right)$

Xét tam giác OAB vuông tại O, đường cao OH có:

$OA=\left| \frac{1}{m-1} \right|=\frac{1}{\left| m-1 \right|};OB=\left| \frac{1}{m-2} \right|=\frac{1}{\left| m-2 \right|}$

 Theo hệ thức lượng trong tam giác vuông ta có:

$\frac{1}{O{{H}^{2}}}=\frac{1}{O{{A}^{2}}}+\frac{1}{O{{B}^{2}}}=\frac{1}{{{\left( \frac{1}{m-1} \right)}^{2}}}+\frac{1}{{{\left( \frac{1}{m-2} \right)}^{2}}}={{(m-1)}^{2}}+{{(m-2)}^{2}}$

$\Rightarrow \frac{1}{O{{H}^{2}}}=2{{m}^{2}}-6m+5\Rightarrow O{{H}^{2}}=\frac{1}{2{{m}^{2}}-6m+5}$

Ta có: $2{{m}^{2}}-6m+5=2({{m}^{2}}-3m+\frac{5}{2})=2({{m}^{2}}-3m+\frac{9}{4}+\frac{1}{4})=2{{(m-\frac{3}{2})}^{2}}+\frac{1}{2}$

$2{{(m-\frac{3}{2})}^{2}}+\frac{1}{2}\ge \frac{1}{2}\Rightarrow 2{{m}^{2}}-6m+5\ge \frac{1}{2}\Rightarrow \frac{1}{2{{m}^{2}}-6m+5}\le 1:\frac{1}{2}=2$

$\Rightarrow O{{H}^{2}}\le 2\Leftrightarrow OH\le \sqrt{2}$

Dấu “=” xảy ra khi và chỉ khi $m-\frac{3}{2}=0\Leftrightarrow m=\frac{3}{2}$

Vậy OH max $=\sqrt{2}\Leftrightarrow m=\frac{3}{2}$ hay khoảng cách từ O đến d lớn nhất khi $m=\frac{3}{2}$