(ⅰ) f(n−2)=f(n−1)=f(n)=1일 경우를 생각하자. 그러면 조건 (1)과 (2)를 모두 만족시키지만 조건 (3)을 만족시키지 않는 함수의 개수는 다음과 같다.
• f(1)=0의 경우 함수의 개수는 n−4C2이다.• f(1)=2,f(2)=0,f(3)=0의 경우 함수의 개수는 n−6C1이다.• f(1)=2,f(2)=0,f(3)=2,f(4)=0,f(5)=0의 경우 함수의 개수는 1이다.• f(1)=2,f(2)=2,f(3)=0,f(4)=0,f(5)=0의 경우 함수의 개수는 1이다.
따라서 이 경우에 문제의 조건을 모두 만족시키는 함수의 개수는 조건 (1)과 (2)를 모두 만족시키는 함수의 개수에서 위 네 가지 경우에 해당하는 함수의 개수를 뺀 것과 같다. 즉n−3C3−(n−4C2+n−6C1+1+1)=6(n−3)(n−4)(n−8)이다.
(ⅱ) 일반적으로 1≤a<b<c≤n인 a,b,c에서 f(a)=f(b)=f(c)=1일 경우는 a,b,c의 선택이 조건 (3)의 부등식의 성립여부에 영향을 주지 않는다. 따라서 주어진 조건을 모두 만족시키는 함수의 개수도 6(n−3)(n−4)(n−8)이다.
따라서 문제의 조건을 모두 만족시키는 함수의 개수는nC3×6(n−3)(n−4)(n−8)=36n(n−1)(n−2)(n−3)(n−4)(n−8)이다.