2014년 대수경 2분야 3번.

먼저 다음 lemma를 보인다.

finite-dimensional vector space $V$ 에서 정의된 linear operator $T, U$에 대하여,

$$ \mathrm{nullity}(TU) \le \mathrm{nullity}(T) + \mathrm{nullity}(U) $$

증명. $W = N(TU)$에 대하여 $N(U) \subset W$이므로 $N(U|_W) = N(U)$이다. 또한 $R(U|_W)$의 basis는 $N(T)$에 속하는 linearly independent set이다. 따라서,

$$ \mathrm{nullity}(TU) = \dim W = \mathrm{rank}(U|_W) + \mathrm{nullity}(U|_W) \le \mathrm{nullity}(T) + \mathrm{nullity}(U). $$

본 문제의 증명. $\mathrm{nullity}(A) \ge n/m$임을 보이는 것으로 충분하다. $ \mathrm{nullity}(A) < n/m$이라고 가정하자. 그러면 $\mathrm{nullity}(A^m) \le m\mathrm{\;nullity}(A) < n$이므로 $A^m \ne O$이다. 이는 모순이므로 $\mathrm{nullity}(A) \ge n/m$.