Chọn: Đáp án A

Kiểm tra thấy A và B nằm khác phía so với mặt phẳng (P)

Gọi B’(x;y;z) là điểm đối xứng với B(5;-1;-2)

=>B’(-1;-3;4)

Lại có |MA-MB|=|MA-MB’|$\le $AB’=const

Vậy |MA-MB| đạt giá trị lớn nhất khi M,A,B’ hẳng hàng hay M là giao điểm của đường thẳng AB' với mặt phẳng (P)

AB' có phương trình $\left\{ \begin{align}   & x=1+t \\  & y=-3 \\  & z=-2t \\ \end{align} \right.$

Tọa độ M(x;y;z) là nghiệm của hệ $\left\{ \begin{align}   & x=1+t \\  & y=-3 \\  & z=-2t \\  & x+y+z-1=0 \\ \end{align} \right.$$<=>\left\{ \begin{align}  & t=-3 \\  & z=-2 \\  & y=-3 \\  & z=6 \\ \end{align} \right.$

Vậy điểm M(-2;-3;6)=>S=1