Đặt $AB=x$, thì $A'{{B}^{2}}=A'{{C}^{2}}={{x}^{2}}+2{{a}^{2}}$. Áp dụng định lí cosin trong tam giác $A'BC$ ta được

$\begin{align}  & \cos \widehat{BA'C}=\frac{A'{{B}^{2}}+A'{{C}^{2}}-B{{C}^{2}}}{2\cdot A'B\cdot A'C} \\  & \Leftrightarrow \frac{2{{x}^{2}}+4{{a}^{2}}-{{a}^{2}}}{2\left( {{x}^{2}}+2{{a}^{2}} \right)}=\frac{5}{6}\Leftrightarrow x=a \\ \end{align}$

Suy ra tam giác ABC đều, nên ${{S}_{ABC}}=\frac{{{a}^{2}}\sqrt{3}}{4}$.

Vậy thể tích hình lăng trụ $ABC.A'B'C'$ là

$V=\frac{{{a}^{3}}\sqrt{6}}{4}$.

Do đó phân nửa thể tích hình lăng trụ

$ABC.A'B'C'l\grave{a}:\frac{V}{2}=\frac{{{a}^{3}}\sqrt{6}}{8}$.

Ta chọn phương án D.