1. 먼저 B=2E−A이므로 AB=A(2E−A)=(2E−A)A=BA이다.AB=BA이고 A+B=2E이므로 (A+B)2=A2+B2+2AB=4E이다.따라서 AB=O이다. (단, O는 영행렬)일차변환 f의 역변환이 존재하면 A−1이 존재하므로 A−1(AB)=(A−1A)B=EB=B.즉 B=O. 또한 A+B=2E에서 A=2E.
2. A2+B2=4E에 B=2E−A를 대입하여 정리하면 A2−2A=O이다.f는 점 (1,0)을 점 (1,a)로 보내므로 A=(1axy)라 둘 수 있다.A2−2A=(ax−1ay−axy−xax+y2−2y)=(0000)(1,2)성분을 고려할 때 x(y−1)=0이므로 x=0 혹은 y=1.그런데 (1,1)성분을 고려할 때 x=0일 수 없으므로 y=1.이때 (2,1)성분에 관한 등식이 성립한다.(2,2)성분을 고려하면 ax−1=0. 따라서 a=0이면 x=a1, y=1이고 이때A=(1aa11)이고 B=(1−a−a11)a=0이면 조건을 만족하는 f와 g는 존재하지 않는다.
3. f는 점 (1,0)을 점 (2,b)로 보내므로 A=(2bxy)라 둘 수 있다. 문항 2에서와 마찬가지로A2−2A=(bxbyxybx+y2−2y)=(0000)(1,1)성분을 고려할 때, bx=0이므로, (2,2)성분으로부터 y2−2y=0.그러므로 y=0 혹은 y=2.(i) y=0인 경우 bx=0이면 A2−A=O이 성립한다.Correction. 조건 A2−A=O는 A2−2A=O의 오기이다. 직전 계산과 최종 행렬 분류는 계수 2를 사용한 조건과 일치한다. 원칙에 따라 원문 표기를 그대로 실었다.b=0일 때, A=(20x0)이고 B=(00−x2) (x는 임의의 실수).b=0일 때, A=(2b00)이고 B=(0−b02).(ii) y=2인 경우 b=0,x=0이어야 한다.즉, b=0일 때, A=2E이고 B=O가 가능하다.(i), (ii)를 b의 값에 따라 정리하면b=0일 때, A=(20x0)이고 B=(00−x2) (x는 임의의 실수) 혹은 A=2E이고 B=O.b=0일 때, A=(2b00)이고 B=(0−b02).