자연계열 A 2번

(2-1) 중심 C는 $\displaystyle (1,1,2)$를 지나고 방향벡터가 $\displaystyle (-1,1,1)$인 직선 위에 있으므로 C의 좌표를 $\displaystyle (1-t,1+t,2+t)$라 두자.

점과 평면 사이의 거리 공식으로부터 $\displaystyle |\overrightarrow{\mathrm{CB}}|^2=\frac{(2+t)^2}3$이고, 두 점 사이의 거리로부터 $\displaystyle |\overrightarrow{\mathrm{CA}}|^2=3t^2$이다.

$\displaystyle |\overrightarrow{\mathrm{CA}}|^2=|\overrightarrow{\mathrm{CB}}|^2$이며 C의 $\displaystyle x$좌표가 양수이므로 $\displaystyle t=-\frac12$이고 $\displaystyle \mathrm C\left(\frac32,\frac12,\frac32\right)$이다.

(2-2) 점 B는 $\displaystyle \mathrm C\left(\frac32,\frac12,\frac32\right)$를 지나고 방향벡터가 $\displaystyle (1,-1,1)$인 직선 위에 있으므로 B의 좌표를 $\displaystyle \left(\frac32+t,\frac12-t,\frac32+t\right)$로 두자.

점 B는 평면 $\displaystyle x-y+z=4$ 위에 있으므로, $\displaystyle t=\frac12$이고 $\displaystyle \mathrm B(2,0,2)$이다.

(2-3) $\displaystyle \overrightarrow{\mathrm{PA}}\cdot\overrightarrow{\mathrm{PB}}=(\overrightarrow{\mathrm{PC}}+\overrightarrow{\mathrm{CA}})\cdot(\overrightarrow{\mathrm{PC}}+\overrightarrow{\mathrm{CB}})=\text{상수}+\overrightarrow{\mathrm{PC}}\cdot(\overrightarrow{\mathrm{CA}}+\overrightarrow{\mathrm{CB}})$이므로 $\displaystyle \overrightarrow{\mathrm{PA}}\cdot\overrightarrow{\mathrm{PB}}$의 최댓값은 $\displaystyle \overrightarrow{\mathrm{PC}}$와 $\displaystyle (\overrightarrow{\mathrm{CA}}+\overrightarrow{\mathrm{CB}})$가 같은 방향의 벡터일 때이다.

$\displaystyle \overrightarrow{\mathrm{CA}}+\overrightarrow{\mathrm{CB}}=\overrightarrow{\mathrm{OA}}+\overrightarrow{\mathrm{OB}}-2\overrightarrow{\mathrm{OC}}=(0,0,1)$이다.

구의 반지름의 길이가 $\displaystyle \frac{\sqrt3}2$이므로 $\displaystyle \overrightarrow{\mathrm{PC}}=\frac{\sqrt3}2(\overrightarrow{\mathrm{CA}}+\overrightarrow{\mathrm{CB}})=\left(0,0,\frac{\sqrt3}2\right)$이다.

$\displaystyle \overrightarrow{\mathrm{OP}}=\overrightarrow{\mathrm{OC}}-\overrightarrow{\mathrm{PC}}=\left(\frac32,\frac12,\frac{3-\sqrt3}2\right)$이므로 P의 좌표는 $\displaystyle \left(\frac32,\frac12,\frac{3-\sqrt3}2\right)$이다.