제가 접근하기에 이것은 점화식과 비슷한 형태로 표현이 가능할것같습니다

점화식이아니어도 어느 함수f를 정의하여

망원급수형태로 접근가능할듯합니다

k-1경우에서 오목 다각형을 빼면 S의 점이 들어있는 다각형이나오는데

그점들을 한번더 연결하면 k-1이상의 오목 다각형이 나옵니다

이를 이용하여 1번을 접근할수있지않을까합니다

k개의 점을 꼭짓점으로 가지는 볼록다각형의 개수 f_k는 n개 중에서 k개의 점을 선택하는 것 이므로 f_k=_nC_k 정의 할 수 있습니다.

점이 n개 이므로 n각형이 최대이다.

f₀=1=_nC₀ , f₁=n=_nC_{1 로 치환할 수 있다.}

f₀-f₁+f₂-f₃+f₄-......= _nC₀-_nC₁+_nC₂-_nC₃+_nC₄-......+(-1)ⁿ * _nC_n 바꿀 수 있다.

이항 정리에 의해 (X+Y)ⁿ=_nC₀*Xⁿ+_nC₁*X^n-1Y+_nC₂*X^n-2Y²+.......+_nC_n-1XY^n-1+_nC_nYⁿ 이 성립한다.

위에 식에 X=1, Y=-1 을 대입하면 0= _nC₀-_nC₁+_nC₂-_nC₃+_nC₄-......+(-1)ⁿ * _nC_{n 되므로} 

f₀-f₁+f₂-f₃+f₄-......= _nC₀-_nC₁+_nC₂-_nC₃+_nC₄-......+(-1)ⁿ * _nC_n =0

문제 1번의 답은 0 입니다.

Lemma _nC_r=(n/r)_n-1C_r-1

증명 _nC_r=n!/(r!(n-r)!)   ,  (n/r)_n-1C_r-1=(n/r)*(n-1)!/((r-1)!(n-r)!)=n!/(r!(n-r)!) 따라서 위에 식은 성립한다.

f₁-2f₂+3f₃-4f₄+.......=_nC₁-2_nC₂+3_nC₃-4_nC₄+......+(-1)^n-1 * _nC_n 바꿀 수 있다.

_nC₁-2_nC₂+3_nC₃-4_nC₄+......+(-1)^n-1 * _nC_n는 Lemma에 의해 n*_n-1C₀-2*n/2*_n-1C₁+3*n/3*_n-1C₂-.......+(-1)ⁿ*n/n*_n-1C_n-1 로 바꿀 수 있습니다.

n*_n-1C₀-2*n/2*_n-1C₁+3*n/3*_n-1C₂-.......+(-1)ⁿ*n/n*_n-1C_n-1=n{_n-1C₀-_n-1C₁+_n-1C₂-_n-1C₃+......+(-1)ⁿ_n-1C_n-1}

문제 1번에서 f₀-f₁+f₂-f₃+f₄-......= _nC₀-_nC₁+_nC₂-_nC₃+_nC₄-......+(-1)ⁿ * _nC_n 에서 n에 n-1을 대입하면 _n-1C₀-_n-1C₁+_n-1C₂-_n-1C₃+......+(-1)ⁿ_n-1C_n-1=0 이라는 식을 얻을 수 있습니다.

그러므로 f₁-2f₂+3f₃-4f₄+.......=_nC₁-2_nC₂+3_nC₃-4_nC₄+......+(-1)^n-1 * _nC_n=n*0=0 입니다.

따라서 문제 2번의 답은 0 입니다.