큰 값을 갖는 양을 분석하고 문제 해결 방법의 효율성을 이해하는 데 도움을 주는 표기법으로 O 표기법이 있다. a 이상의 실수들의 집합에서 정의된 함수 f(x)와 g(x)가 있고 함수 g(x)는 양수 값만을 가진다고 하자. 적당한 상수 C가 존재하여 임의의 x≥a에 대하여 ∣f(x)∣≤Cg(x)가 성립할 때f(x)=O(g(x)),(x≥a)라고 표기한다.
예를 들어 다음과 같은 표기가 가능하다:3x+2=O(x2+1),(x≥0).
이 사실을 확인해 보자. 우선 0≤x≤1인 경우 x+1≤2≤2(x2+1)이 성립하고 x>1인 경우 x+1≤x2+1≤2(x2+1)이 성립한다. 따라서, 임의의 실수 x에 대하여 x+1≤2(x2+1)이 성립하므로 아래 부등식을 얻는다:∣3x+2∣=3x+2≤3(x+1)≤6(x2+1).
O 표기법이 등식의 의미를 가지는 것은 아니다. 예를 들어, x2+1≤2(x4+1)으로부터 다음과 같은 표기도 가능하다:3x+2=O(x4+1),(x≥0).
이와 유사하게 a 이상의 자연수들의 집합에서 정의된 함수에 대해서도 같은 표기법을 사용하기로 한다.
정수를 좌표로 갖는 평면상의 점들을 격자점이라 한다. 격자점 이론 또는 격자점 문제는 주어진 영역에 들어 있는 격자점의 개수에 관한 것이다. 격자점 하나를 그 격자점을 중심으로 하고 한 변의 길이가 1인 정사각형에 대응시키면 주어진 영역에 들어 있는 격자점의 개수를 영역의 넓이로 근사할 수 있다.
양의 실수 r에 대하여 S(r)={(x,y):∣x∣+∣y∣≤r}이라고 하자. 영역 S(r)의 넓이를 AS(r), 영역 S(r)에 들어 있는 격자점의 개수를 NS(r)이라고 하자. NS(r)을 AS(r)로 근사할 때 생기는 오차를 ES(r)이라 하면 NS(r)=AS(r)+ES(r)이 성립한다.
양의 실수 r에 대하여 D(r)={(x,y):x2+y2≤r2}이라고 하자. 영역 D(r)의 넓이를 AD(r), 영역 D(r)에 들어 있는 격자점의 개수를 ND(r)이라고 하자. ND(r)을 AD(r)로 근사할 때 생기는 오차를 ED(r)이라 하면 ND(r)=AD(r)+ED(r)이 성립한다. 일반적으로 ND(r)을 정확히 계산하기는 쉽지 않다.
[그림 3]은 ND(r)을 이해하는 데 도움을 준다. 영역 D(r)에 들어 있는 격자점 중 대응하는 정사각형이 D(r)의 경계와 만나지 않는 것의 개수를 N1(r), 대응하는 정사각형이 D(r)의 경계와 만나는 것의 개수를 N2(r)이라고 하자. 그리고, D(r)의 외부에 있는 격자점 중 대응하는 정사각형이 D(r)의 경계와 만나는 것의 개수를 N3(r)이라 하자. 그러면, ND(r)=N1(r)+N2(R)≤AD(r)+N2(r)이다. 한편, AD(r)≤N1(r)+N2(r)+N3(r)=ND(r)+N3(r)이 성립한다. 이 두 부등식으로부터 ∣ED(r)∣≤N2(r)+N3(r)임을 알 수 있다.Correction. 제시문의 N2(R)는 앞뒤의 정의에 따르면 N2(r)이다. 그러나 원칙에 따라 원문 표기를 그대로 실었다.
2-1. <10점> 제시문 나에 의하면 x+1=O(x2+1), (x≥0)이 성립한다. 임의의 x≥0에 대하여x+1≤C(x2+1)를 만족하는 가장 작은 실수 C를 구하라.
2-2. <10점> 자연수 n에 대하여f1(n)=n+1n2,f2(n)=k=1∑n(f1(k+1)+f1(k2))으로 정의할 때 f2(n)=O(nα), (n≥1)을 만족하는 가장 작은 실수 α를 구하라.
2-3. <5점> ND(6.5)와 NS(6.5)는 각각 얼마인가?
2-4. <10점> 다음 관계가 성립함을 보여라.ED(r)=O(r),(r≥2).
2-5. <15점> NS와 ES에 관한 다음 물음에 답하라.
①<5점> 자연수 m에 대한 NS(m)의 일반식을 구하라.
②<5점> r=m+t, (m은 자연수, 0≤t<1)로 놓고 ES(r)을 r과 t로 표현하라.
③<5점> 아래 식을 만족하는 가장 작은 실수 β를 구하라.ES(r)=O(rβ),(r≥2).
아주대 2009학년도 수시 1차 자연계열 2번 · mathesis.kr/archive/ajou/2009su_1/jayeon_2
2-1.
풀이. 임의의 x≥0에 대하여 x+1≤C(x2+1)이 성립하기 위한 필요충분조건은 x≥0에서의 이차 함수 F(x)=Cx2−x+C−1의 최소값 F(2C1)=−4C1+C−1이 0 이상인 것이다. 즉, −4C1+C−1≥0. 이 부등식을 풀면 C≥42+22. 따라서, 주어진 부등식을 만족하는 가장 작은 양의 실수 C는 42+22이다.
2-2.
풀이. 임의의 자연수 n에 대하여 부등식 n≤n+1≤2n이 성립하므로, 2n≤f1(n)≤n이 성립한다. 따라서 자연수 n에 대한 다음 두 부등식을 얻는다:f2(n)=k=1∑n(f1(k+1)+f1(k2))≤k=1∑n(k+1+k2)≤k=1∑n3k2=36n(n+1)(2n+1)≤3n3f2(n)=k=1∑n(f1(k+1)+f1(k2))≥k=1∑n(2k+1+2k2)≥k=1∑n2k2=2⋅6n(n+1)(2n+1)≥6n3
일반적으로 α≥3인 경우 n3=O(nα)이 성립하므로, f2(n)=O(nα)임을 알 수 있다. 한편, α<3인 경우, n3−α는 한없이 커지므로 f2(n)=O(nα)가 성립할 수 없다.
따라서, f2(n)=O(nα)를 만족하는 가장 작은 실수 α는 3이다.
2-3.
풀이. ND(6.5)를 구하기 위해서는 주어진 정수 −6≤x≤6을 만족하는 각각의 정수 x에 대하여 x2+y2≤6.52을 만족하는 정수 y의 개수를 구하여 모두 더하면 된다. 대칭성을 이용하여 이 값을 구하면ND(6.5)=6⋅2+1+2((6⋅2+1)+(6⋅2+1)+(5⋅2+1)+(5⋅2+1)+(4⋅2+1)+(2⋅2+1))=137
비슷한 방법으로 NS(6.5)를 구하면NS(6.5)=13+12+4(11+9+7+5+3+1)=85.Correction. 대학 답안의 13+12+4(11+9+7+5+3+1)은 계산하면 169이다. 대칭성을 이용한 올바른 식은 13+2(11+9+7+5+3+1)=85이며, 원문에 적힌 최종 답 85는 맞다. 원칙에 따라 원문 표기를 그대로 실었다.
2-4.
풀이. 제시문 다에 의하면 아래 부등식이 성립한다.∣ED(r)∣≤N2(r)+N3(r).
한편, N2(r)+N3(r)는 반지름이 r+2인 원과 반지름이 r−2인 원으로 둘러 싸인 영역의 넓이를 넘지 않으므로∣ED(r)∣≤π(r+2)2−π(r−2)2=22πrCorrection. 두 원의 넓이 차는 π(r+2)2−π(r−2)2=42πr이므로 원문의 계수 2는 4로 고쳐야 한다. 상수 계수의 차이이므로 ED(r)=O(r)이라는 결론에는 영향이 없다. 원칙에 따라 원문 표기를 그대로 실었다.
따라서, 다음 식이 성립한다:ED(r)=O(r),r≥2
2-5. ①
풀이. 자연수 m에 대하여NS(m)=2m+1+2k=1∑m(2(m−k)+1)=2m2+2m+1가 성립한다.
②
풀이. 격자점은 정수들로 구성되므로 아래 등식이 성립한다:NS(r)=NS(m).
이 등식과 ①의 결과를 활용하면ES(r)=NS(r)−AS(r)=2m2+2m+1−2r2=2(r−t)2+2(r−t)+1−2r2
즉,ES(r)=2r(−2t+1)+2t2−2t+1.
③
풀이. ②에서와 같이 r=m+t (m은 자연수, 0≤t<1)로 놓으면, 다음 부등식을 얻는다:∣ES(r)∣≤2r+1≤3r
즉, ES(r)=O(r)이 성립한다. 따라서, 임의의 β≥1에 대하여 ES(r)=O(rβ)이 성립한다. 한편 자연수 m에 대하여 NS(m)=2m2+2m+1, AS(m)=2m2, ∣ES(m)∣≥2m이므로 β<1에 대하여 ES(r)=O(rβ)가 성립할 수는 없다.