[문제 3] 다음 제시문 <가>~<다>를 읽고 물음에 답하시오.
<가> 정사각형 행렬 D에 대하여 DX=E 또는 XD=E를 만족하는 정사각형 행렬 X가 존재하면, X는 D의 역행렬 D−1=X이다. (단, E는 D와 같은 꼴인 단위행렬이다.)
<나> 2×1행렬 A=(a1a2)에 대하여 A∗를 1×2행렬 A∗=(a1,a2)라 정의한다. A=(a1a2), B=(b1b2)일 때, 행렬 곱셈의 정의에 의해 AB∗=(a1b1a2b1a1b2a2b2)이고 A∗B=a1b1+a2b2이다.
<다> 행렬 A=(pq) (단, pq=0, p2+q2=1)에 대하여, 좌표평면에서 행렬 E+AA∗으로 나타내어지는 일차변환을 f라 하자. 일차변환 f에 의하여 자기 자신으로 옮겨지는 좌표평면위의 직선 l이 존재한다.
3-1. 제시문 <나>에서 B∗A=−1일 때, 행렬 E+AB∗의 역행렬이 (E+AB∗)−1=E−B∗A+1AB∗임을 보이시오. [10점]
3-2. 제시문 <다>에서 일차변환 f에 의하여 직선 l:x+ky=0이 같은 직선 l로 옮겨질 때, k의 값을 구하시오. (단, k=0) [15점]
3-3. 제시문 <다>의 일차변환 f과 행렬 C=(p−qqp)으로 나타내어지는 일차변환 g에 대하여, 합성변환 g∘f가 원 x2+y2=1을 도형 G로 옮길 때, G의 방정식을 구하시오. [10점]