Step 1: Use the Gram determinant
$\det^2=\begin{vmatrix}\vec a\cdot\vec a&\vec a\cdot\vec b&\vec a\cdot\vec c\\ \vec b\cdot\vec a&\vec b\cdot\vec b&\vec b\cdot\vec c\\ \vec c\cdot\vec a&\vec c\cdot\vec b&\vec c\cdot\vec c\end{vmatrix}$.
Step 2: Fill it
With $\vec a\cdot\vec b=\vec a\cdot\vec c=0$ and $\vec a\cdot\vec a=1$, this is $|\vec b|^2|\vec c|^2-(\vec b\cdot\vec c)^2=|\vec b|^2|\vec c|^2(1-\tfrac14)=\tfrac34|\vec b|^2|\vec c|^2$, option (A).
Final Answer:
The square equals $\frac34|\vec b|^2|\vec c|^2$, option (A).
\[ \boxed{\dfrac34|\vec b|^2|\vec c|^2} \]