점 H는 점 P의 평면 α 위로의 정사영이므로 점 P에서 평면 α에 내린 수선의 발이다. 따라서 사면체의 부피는 31×(삼각형 ABH의넓이)×PH이다. 현 AB와 수직인 원의 지름을 CD라 하자. 단, 현 AB와 지름 CD의 교점 M은 선분 CO 위에 있다고 하자.
먼저 사면체 ABPH의 부피가 최대이면 수선의 발 H는 적어도 지름 CD 위에 있어야 한다. 만약 수선의 발 H가 지름 CD 위에 있지 않으면, 점 H를 지나고 현 AB와 평행한 직선과 지름 CD의 교점 H′이라 하고, H′을 수선의 발로 하는 구면 위의 점을 P′이라 할 때, 사면체 ABP′H′의 부피는 사면체 ABPH의 부피보다 크게 되어 모순이다 (아래 첫 번째 그림 참조).
더욱이 수선의 발 H는 선분 OD 위에 있어야 한다. 만약 수선의 발 H가 선분 CO 위에 있다면, DH′′=CH를 만족시키는 선분 OD 위의 점을 H″이라 하고, 점 H″를 수선의 발로 하는 구면 위의 점을 P″이라 할 때, 사면체 ABP″H″의 부피는 사면체 ABPH의 부피보다 크게 되어 모순이다 (아래 두 번째 그림 참조).
이제 수선의 발 H는 선분 OD 위에 있으므로, OH=t (단, 0<t<1)라 하고, 사면체의 부피를 f(t)라 하면f(t)=31×(삼각형 ABH의넓이)×PH이므로, 위 세 번째, 네 번째 그림에서,f(t)=31×21×3×(21+t)×1−t2=123(2t+1)1−t2이고
+10점 · 사면체 ABPH의 부피가 최대일 때, 삼각형 ABH의 넓이를 구했는가?
f′(t)=−121−t23(4t2+t−2)=0일 때, t=8−1+33이다.오른쪽 변화표에서 사면체 ABPH의 부피 f(t)는 t=8−1+33일 때 최댓값을 알 수 있다.이때 삼각형 ABH의 넓이는 21×3×(21+8−1+33)=163(3+11)이다.