[3.1] t=AB이므로 코사인 법칙에 의하여AP2=t2+1−2tcosθ이고OP2=(34)2+1−38cosθ=925−38cosθ이다.
[3.2] 삼각형의 세 변의 길이의 제곱의 합은l1=PA2+AB2+BP2=t2+1−2tcosθ+t2+1=2t2−2tcosθ+2이고l2=OP2+97=932−38cosθ이다. 따라서 모든 점 A에 대하여 l1>l2가 되기 위해서는, 0<t<34에 대하여2t2−2tcosθ+2>932−38cosθ또는t2−tcosθ+34cosθ−97=(t−21cosθ)2−41cos2θ+34cosθ−97>0가 성립해야 한다. 그런데 0<θ<2π일 때 0<21cosθ<21이므로−41cos2θ+34cosθ−97>0즉,cos2θ−316cosθ+928<0이면 된다. 인수분해하면(cosθ−32)(cosθ−314)<0이므로 32<cosθ<314이다. 그런데 cosθ<1이므로 cosθ의 범위는 32<cosθ<1이다.
[3.3] θ=6π,4π,3π에 대해서 cos2θ의 값을 구하면 각각 43, 21, 41이다.이 중 (32)2보다 큰 값은 43와 21이므로, 조건을 만족하는 θ는 6π와 4π이다.