Sardの定理にまつわる反例

この記事はナンブキトラのブログ記事"Sardの定理にまつわる反例と「多様体の基礎」の誤り"(参考文献[1])と"Sardの定理にまつわる反例その２"(参考文献[2])をまとめて，Mathlog用に書き直したものである．
この記事では「多様体の基礎」(参考文献[7])のSardの定理の記述の誤りを指摘し，Sardの定理の微分可能性の仮定を弱めた場合の反例の文献案内をする．ちょっと本質的な構成は紹介できないかも．

数学的に難しいことは全て参考文献に回しているので，この記事はどちらかというと文献案内という趣が強いかと思われる．

序

Sardの定理

ユークリッド空間の間の可微分写像$f$について，その臨界点全体を$C_f$と書くことにする．つまり$C_f$に属する点というのは，$f$の(全)微分が全射ではなくなる点のことである．このことは$f$のヤコビ行列が線形写像として全射ではないということと同じである．

Sardの定理とは次の定理のことである．ここでは証明はしない．
証明知りたい読者は[10], [11]もしくはナンブキトラのはてなブログ記事[3]などを参照のこと．

このSardの定理(サードの定理)を踏まえた上で「多様体の基礎」の誤りがどのようなものか解説する．

多様体の基礎とSardの定理

さて東大出版の「多様体の基礎」(参考文献[7], 例の黄色い本)は多様体の入門書として名著との呼び声も高い．
しかしながらこの本におけるSardの定理は微分可能性の仮定を
$$r>\frac{m}{n}-1$$
としている．この微分可能性に関する仮定は誤りである．
つまりSardの定理の微分可能性の仮定を$r>\frac{m}{n}-1$としてしまうと，定理の結論が成り立たないような関数が存在するのである．
なぜこのような記述になってしまったかと言うと,Sardの定理を引くために参考にしていると思われるミルナーのTopology from differentiable viewpoint(参考文献[9]と[8])のSardの定理の記述がややこしいのでこのような誤解をしてしまったのかと思われる．ミルナーの本では$r=\mathrm{\infty }$の場合にSardの定理を証明しているが，帰納法の仮定に$r>\frac{m}{n}-1$が出てくる．この帰納法というのはもう大体$r=\mathrm{\infty }$の場合くらいにしか回らない帰納法なのだが，ミルナーはそこんところ何も注意してくれないので誤解してしまうのではないかと思う．もうちょっと具体的にいうと，ミルナーの証明の第1段というのが$r>\frac{m}{n}-1$という仮定だけでは帰納法が回せなくなるんじゃないかと思う．
この記事の後半ではこの微分可能性の仮定では定理の結論が成り立たないという例を紹介する．

反例など

Sardの定理にまつわる反例その１

以下では微分可能性に関する仮定を$r>\frac{m}{n}-1$とした時の反例を紹介する．
「多様体の基礎」のSardの定理が述べられている同じページに，Sardの定理にまつわるWhitneyによる反例が述べられている(原論文は[16])．つまり，$r$がSardの定理の仮定にある不等式$r\ge max\{m-n+1,1\}$を充さない時の反例，特に
$r=1,m=2,n=1$の場合の反例である．命題としてまとめておこう．

以上の命題で述べられた$f$から，$r>\frac{m}{n}-1$を満たすがSardの定理の結論を満たさない例を構成しよう．
まず$F:{\mathbb{R}}^3\to {\mathbb{R}}^2$を以下のように定義しよう．

$$F(x_1,x_2,x_3)=\begin{array}{r}\left(\begin{array}{c}f(x_1,x_2)\\ x_3\end{array}\right)\end{array}$$
このとき$f$が$C^1$級なので$F$も$C^1$級である．
$F$の臨界点を求めよう．$F$のヤコビ行列は
$$JF(x_1,x_2,x_3)=\begin{array}{r}\left(\begin{array}{ccc}\frac{\partial f}{\partial x_1}& \frac{\partial f}{\partial x_2}& 0\\ 0& 0& 1\end{array}\right)\end{array}$$
という形をしているので，$F$の臨界点を$C_F$とすると$C_F$は$C_f\times \mathbb{R}$を部分集合として含む．
さて$F$の定義から$F(C_f\times \mathbb{R})=f(C_f)\times \mathbb{R}$であり，$f(C_f)$は正の一次元(ルベーグ)測度をもつので，$F(C_f\times \mathbb{R})=f(C_f)\times \mathbb{R}$は正の二次元(ルベーグ)測度をもつ．より正確にいうとその測度は無限大の値をもつ．よって$F(C_F)$は正の二次元(ルベーグ)測度をもつ．ところで今$F$について$r=1,m=3,n=2$なので
$$\frac{m}{n}-1=\frac{1}{2}$$
なのでこの$F$については
$$r>\frac{m}{n}-1$$
が成り立つが，$F$の臨界値$F(C_F)$は零集合ではない．
よってこの$F$は$r>\frac{m}{n}-1$を満たすがSardの定理の結論を満たさない．つまり「多様体の基礎」にSardの定理として記述されている主張は誤りである．
この反例はそれこそSardの原論分[15]の一番最後のページに書かれている反例である．ちなみにこの論文はオープンアクセスである．

Sardの定理にまつわる反例その２

Whitneyの例はWhitneyの拡張定理というなかなか重たい定理を利用しているが，もうちょっと簡単な構成法がある．
以下では$K$と書いたらカントール集合を表すとする．単位閉区間を三等分して真ん中をくり抜くという構成で得られるあのあれである．

以下の事実がある．証明はCounterexamples in Analysis[12]にある．

次の定理の証明は[13]と[14]にある．

さてこの$g$を用いて$f:{\mathbb{R}}^2\to \mathbb{R}$を$f(x,y)=g(x)+g(y)$と定義する．
このとき$f$のヤコビ行列は
$$Jf(x,y)=(g^{\prime }(x),g^{\prime }(y))$$
となるので$C_g\times C_g\subset C_f$がわかり，$f$の定義から$$f(C_f)\supset g(C_g)+g(C_g)\supset K+K=[0,2]$$
となるので$f$の臨界値全体の集$f(C_f)$が一次元ルベーグ測度で正の測度を持つことがわかった．

この$f$を用いて上と同様の$F$を構成すれば$r>\frac{m}{n}-1$を満たすがSardの定理の結論を満たさない例が構成できる．

注釈

多様体の基礎は，ラノベと呼ばれることもあるようだが，ちょっとこの呼び方はお行儀が良くないと思うよ．

なんか知らないが，ニコニコ大百科にもSardの定理の記事がある([6]).

スターンバーグの微分幾何学[11]という本が邦訳[10]されているが、実はこの本に一般的な場合のSardの定理の証明がちゃんと載っている．

Whitneyによる反例は[16]を参照のこと。Whitney は実関数の臨界点，つまり微分が消えるような点の上で，その実関数は定数であるか？という素朴な問いに対して，Whitney自身の一つの偉大な結果であるWhitneyの拡張定理を用いることで，反例を構成した．彼は平面の中のカントール集合と，カントール集合を通る弧のうえで，直線上のカントールの悪魔の階段と同様の関数を作り，それを拡張定理によって平面全体に拡張することにより，臨界点内の連結弧のうえで定数でない関数を構成した．Whitneyの反例は正式にSardの定理が論文で発表される以前に発表されたことに注意されたい．Sardが論文を出す以前からSardの定理型の定理は微分可能性の仮定の甘さを除いては(SardやMorseらによって)知られていたようだが，最終的に$r\ge max\{m-n+1,0\}$という最良の仮定のもとで定理は証明された．Sardの証明には先行するMorseが用いられているが，最良の仮定に辿り着くのにWhitneyの反例が大きな影響を及ぼしているのだろう．Sardの定理の微分可能性に関する反例を作るだけならWhitneyの構成よりも簡単に，弧なんて作らずに，カントール集合上の関数を拡張するだけで実は良い．
また，Whitneyの拡張定理ははてなブログ電波通信でも解説記事[4]があり，証明を紹介している．

サードの定理については色々な歴史や変種などが最近になっても研究されており，そのような話ははてなブログ電波通信でも幾ばくかまとめている[5].