Ta có :$y'=\frac{-{{\cos }^{2}}x+2m\sin x-2{{\sin }^{2}}x}{{{\cos }^{3}}x}=\frac{-1+2m\sin x-{{\sin }^{2}}x}{{{\cos }^{3}}x}$

Để hàm số nghịch biến trên khoảng $\left( 0;\frac{\pi }{6} \right)$ thì $y'\le 0,\forall x\in \left( 0;\frac{\pi }{6} \right)$ (*)

Đặt $t=\sin x,t\in \left( 0;\frac{1}{2} \right)$ .Ta có : $(*)\Leftrightarrow m\le \frac{{{t}^{2}}+1}{2t}$

Xét hàm số : $f(t)=\frac{{{t}^{2}}+1}{2t},t\in \left( 0;\frac{1}{2} \right)$

Ta có : $f'(t)=\frac{2({{t}^{2}}-1)}{4{{t}^{2}}}<0,t\in \left( 0;\frac{1}{2} \right)$

Bảng biến thiên :

Dựa vào bảng biến thiên ,ta có : $m\le \frac{5}{4}$

Chọn đáp án A.