級数の加速と微分幾何学1
あいさつ
んちゃ！
この記事はシリーズものになります。
級数を微分幾何学により捉えなおし、級数の加速問題を最適化問題に置き換える事を試みます。
ただし筆者の思い付きにより書いていますので本当にこの目論見が到達できるかに関しては不明です。
それでは、興味を持って頂いた読者の皆様どうか応援のほどよろしくお願いいたします。
関数空間
$F(\mathcal{D})=\{f:\mathcal{D}\rightarrow \mathbb{C}|fは正則\}$とする。
この時、以下の様な演算を定める。
\begin{eqnarray}
\left\{
\begin{array}{l}
和：\forall f,g\in F(\mathcal{D}):\forall z\in\mathcal{D}:(f+g)(z)=f(z)+g(z)\\
スカラー積：\forall c\in\mathbb{C}:\forall f\in F(\mathcal{D}):(cf)(z)=cf(z)
\end{array}
\right.
\end{eqnarray}の様に定める。
するとこれはベクトル空間。
[1]結合法則：
\begin{eqnarray}
\forall f,g,h\in F(\mathcal{D}):\forall z\in\mathcal{D}:(f+(g+h))(z)&=&f(z)+(g+h)(z)\\
&=&f(z)+\{g(z)+h(z)\}\\
&=&\{f(z)+g(z)\}+h(z)\\
&=&(f+g)(z)+h(z)\\
&=&((f+g)+h)(z)
\end{eqnarray}
[2]可換性：
\begin{eqnarray}
\forall f,g\in F(\mathcal{D}):\forall z\in\mathcal{D}:(f+g)(z)&=&f(z)+g(z)\\
&=&g(z)+f(z)\\
&=&(g+f)(z)
\end{eqnarray}
[3]零元：$\forall z\in\mathbb{C}:\vb*{0}(z)=0$を満たす$\vb*{0}$
[4]逆元：$\forall f\in F(\mathcal{D}):\forall z\in\mathcal{D}:f(z)-f(z)=0$なので$-f\in F(\mathcal{D})$は逆元
[5]スカラーに関する分配法則：
\begin{eqnarray}
\forall \xi,\eta\in \mathbb{C}:\forall f\in F(\mathcal{D}):\forall z\in \mathcal{D}:((\xi+\eta)f)(z)&=&(\xi+\eta)f(z)\\
&=&\xi f(z)+\eta f(z)\\
&=&(\xi f+\eta f)(z)
\end{eqnarray}
[6]ベクトルに関する分配則：
\begin{eqnarray}
\forall \xi\in \mathbb{C}:\forall f,g\in F(\mathcal{D}):\forall z\in \mathcal{D}:(\xi(f+g))(z)&=&\xi(f(z)+g(z))\\
&=&\xi f(z)+\xi g(z)\\
&=&(\xi f+\xi g)(z)
\end{eqnarray}
[7]スカラー積の結合法則：
\begin{eqnarray}
\forall \xi,\eta\in\mathbb{C}:\forall f\in F(\mathcal{D}):\forall z\in\mathcal{D}:(\xi(\eta f))(z)&=&\xi(\eta f(z))\\
&=&(\xi\eta) f(z)\\
&=&((\xi\eta)f)(z)
\end{eqnarray}
[8]$1$の存在：$\forall f\in F(\mathcal{D}):\forall z\in\mathcal{D}:(1f)(z)=1f(z)=f(z)$
関数空間$F(\mathcal{D})$について以下の様な関数を定める。
\begin{eqnarray}
e_{w}(z)=\left\{
\begin{array}{l}
1\quad(z=w)\\
0\quad(z\neq w)
\end{array}
\right.
\end{eqnarray}
この様な関数を用いると複素数列$\{f_{w}\}_{w\in\mathcal{D}}\subset\mathbb{C}$に対して以下の式が得られる。
\begin{equation}
f=\sum_{w\in\mathcal{D}}f_{w}e_{w}
\end{equation}
この$\{e_{w}\}_{w\in\mathcal{D}}$を関数空間$F(\mathcal{D})$の基本基底という。
二項演算$\forall f,g\in F(\mathcal{D}):< f,g>\coloneqq \int_{\gamma}f^{\ast}(z)g(z)d|z|$を定義する。これは内積の性質を持つ。
[1]正値性：
\begin{eqnarray}
\forall f\in F(\mathcal{D}):< f,f>&=&\int_{\gamma}f^{\ast}(z)f(z)d|z|\\
&=&\int_{\gamma}|f(z)|^{2}d|z|\\
&\geq&0
\end{eqnarray}
[2]Hermite対称性：
\begin{eqnarray}
\forall f,g\in F(\mathcal{D}):< f,g>&=&\int_{\gamma}f^{\ast}(z)g(z)d|z|\\
&=&\int_{\gamma}\overline{g^{\ast}(z)f(z)}d|z|\\
&=&\overline{\int_{\gamma}g^{\ast}(z)f(z)d|z|}\\
&=&\overline{< g,f>}
\end{eqnarray}
[3]双線形性：
\begin{eqnarray}
\forall \xi,\eta\in\mathbb{C}:\forall f,g,h\in F(\mathcal{D}):< f,\alpha g+\beta h>&=&\int_{\gamma}f^{\ast}(z)\{\xi g(z)+\eta h(z)\}d|z|\\
&=&\alpha\int_{\gamma}f^{\ast}(z)g(z)dz+\beta\int_{\gamma}f^{\ast}(z)h(z)dz\\
&=&\alpha< f,g>+\beta< f,h>
\end{eqnarray}
基底$\{f_{w}\}_{w\in\mathcal{\Gamma}}\subset F(\mathcal{D})$に対して、以下の様な内積を定める。
\begin{eqnarray}
< f_{w_{1}}|f_{w_{2}}>&=&\int_{\gamma}f^{\ast}_{w_{1}}(z)f_{w_{2}}(z)d|z|\\
&=&g_{w_{1},w_{2}}
\end{eqnarray}
$\forall f,g\in F(\mathcal{D}):\exists \{\xi_{w}\}_{w\in\Gamma},\{\eta_{w}\}_{w\in\Gamma}\subset\mathbb{C}\ s.t.\ f=\sum_{w\in\Gamma}\xi_{\gamma}f_{\gamma}\land g=\sum_{w\in\Gamma}\eta_{\gamma}f_{\gamma}$
\begin{eqnarray}
< f|g>&=&\sum_{w_{1},w_{2}\in\Gamma}\xi_{w_{1}}g_{w_{1},w_{2}}\eta_{w_{2}}
\end{eqnarray}
この計算見たことありませんか？
例えば微分幾何学とかね！
じゃあさー
微分幾何学で考え直せそうですよねー
例えば基底ってどうやって決めていたか思い出しましょう。
$\{\xi_{w}\}_{w\in\Gamma}\subset\mathbb{C}$によって定まる位置ベクトル：$f$について$\xi_{w}$方向の基底を$f_{w}$としますと、形式上は次の様にすればいいでしょうねー(棒)
ここで注意すべきなのは$\delta f$は関数の変化分です。
うん。
意味わかんないよね。
だから具体例を提示します。
例えば基底$\{\sin{2n\pi z}\}_{n\in\mathbb{N}}$で張られる部分空間$Even\subset F(\mathcal{D})$について考えてみましょう。
\begin{eqnarray} \left\{ \begin{array}{l} f(z)=\sum_{n=1}^{\infty}\xi_{n}\frac{\delta f}{\delta \xi_{n}}\\ \frac{\delta f}{\delta \xi_{n}}(z)=\sin(2n\pi z) \end{array} \right. \end{eqnarray}
この式の意味は次の様です。
貴方は、基本周波数$2\pi$の正弦波を重ね合わせ音を生成できるシンセサイザを持っています。
そして、鳴っている音が位置ベクトル、第$n$次高調波の振幅が成分。でっ...第$n$次高調波の振幅のみを連続的に変形する操作を行い音の変化分を見ると、それは基底$\sin{2n\pi z}$となるというわけです。
それだけです。
基底$\{f_{w}\}_{w\in\Gamma}\subset F(\mathcal{D})$が以下の性質を持つとき直交曲線座標系と呼ぶ。
\begin{equation}
< f_{w_{1}},f_{w_{2}}>=g_{w_{1}}\delta_{w_{1},w_{2}}\quad(w_{1},w_{2}\in \Gamma)
\end{equation}
つまり直交曲線座標系$\{f_{w}\}_{w\in\Gamma}\subset F(\mathcal{D})$に対して以下の式が成り立ちます。
$\forall f,g\in F(\mathcal{D}):\exists \{\xi_{w}\}_{w\in\Gamma},\{\eta_{w}\}_{w\in\Gamma}\subset\mathbb{C}\ s.t.\ f=\sum_{w\in\Gamma}\xi_{\gamma}f_{\gamma}\land g=\sum_{w\in\Gamma}\eta_{\gamma}f_{\gamma}$に対して、以下の式が得られますねー
\begin{equation}
< f,g>=\sum_{w\in\Gamma}g_{w}\xi_{w}\eta_{w}
\end{equation}この式どっかで見たことないですか？
感のいいガキは好きだよ！そう重みです！
重み関数は皆大好きベクトル解析に出てくる直交座標系の計量に対応しているのです。
ほへぇ...ちなみに$\grad,\div,\curl,\Delta$も考える事が出来るのでは？
たぶんできる。
そこで、パンを食べる時に消化の仕組みを考えない様に、あまり細かい事は気にせずに無遠慮に定義してみる。
厳密性はその手の専門家にお任せしよう。
関数$\mathcal{L}:F(\mathcal{D})\ni f\mapsto \mathcal{L}(f)\in\mathbb{C}$を$F(\mathcal{D})$上で定義されたスカラー場と呼ぶ。
関数列$\mathcal{A_{\mu}}:F(\mathcal{D})\ni f\mapsto A_{\mu}(f)\in\mathbb{C}\quad(\mu\in\Gamma)$を$F(\mathcal{D})$上で定義されたベクトル場と呼ぶ。
$F(\mathcal{D})$上で定義されたスカラー場$\mathcal{L}$に対して$\grad(\mathcal{L})$を以下の様に定める。
\begin{equation}
\grad(\mathcal{L})=\sum_{w\in\Gamma}\frac{\delta \mathcal{L}(f)}{\sqrt{g_{w}}\delta \xi_{w}}f_{w}
\end{equation}
まず、超立体$\prod_{\mu\in\Gamma}[\xi_{\mu},\xi_{\mu}+\delta_{\mu}]$を考え、以下の様な$f_{\mu_{0}}$方向に直交する面に対する発散を求めてみましょうか。これは簡単な考察から
\begin{equation}
A_{\mu}(...,\xi_{\nu}+\delta_{\nu},...)\prod_{\nu\in\Gamma\setminus\{\mu\}}\sqrt{g_{\nu}(...,\xi_{\mu}+\delta_{\nu},...)}\delta_{\nu}-A_{\mu}(...,\xi_{\nu},...)\prod_{\nu\in\Gamma\setminus\{\mu\}}\sqrt{g_{\nu}(...,\xi_{\mu},...)}\delta_{\nu}=\frac{1}{\sqrt{g_{\mu}}}(\frac{\delta A_{\mu}}{\delta \xi_{\mu}}+A_{\mu}\sum_{\nu}\frac{1}{2g_{\nu}}\frac{\delta g_{\nu}}{\delta \xi_{\mu}})\prod_{\nu\in\Gamma}\sqrt{g_{\nu}}\delta_{\nu}+o(\delta^{2})
\end{equation}
$F(\mathcal{D})$上で定義されたベクトル場$\vb*{A}(f)=\sum_{\mu\in\Gamma}A_{\mu}(f)f_{\mu}$に対して$\div{\vb*{A}}$を以下の様に定める。
\begin{eqnarray}
\div{\vb*{A}}&\coloneqq&\sum_{\mu\in\Gamma}\frac{1}{\sqrt{g_{\mu}}}(\frac{\delta A_{\mu}}{\delta \xi_{\mu}}+A_{\mu}\sum_{\nu\in\Gamma\setminus\{\mu\}}\frac{1}{2g_{\nu}}\frac{\delta g_{\nu}}{\delta \xi_{\mu}})\\
&=&\frac{1}{\prod_{\nu\in\Gamma}\sqrt{g_{\nu}}}\sum_{\mu\in\Gamma}\frac{\delta}{\delta \xi_{\mu}}(A_{\mu}\prod_{\nu\in\Gamma\setminus\{\mu\}}\sqrt{g_{\nu}})
\end{eqnarray}
$F(\mathcal{D})$上で定義されたスカラー場$\mathcal{L}$に対して$\Delta(\mathcal{L})$を以下の様に定める。
\begin{equation}
\Delta(\mathcal{L})\coloneqq\frac{1}{\prod_{\nu\in\Gamma}\sqrt{g_{\nu}}}\sum_{\mu\in\Gamma}\frac{\delta}{\delta \xi_{\mu}}(\frac{\delta\mathcal{L}}{\sqrt{g_{\mu}}\delta \xi_{\mu}}\prod_{\nu\in\Gamma\setminus\{\mu\}}\sqrt{g_{\nu}})
\end{equation}
回転部分については下記の様な計算を行う事で定義します。
\begin{eqnarray}
&A_{\mu}&(...,\xi_{\nu},...)\sqrt{g_{\mu}(...,\xi_{\nu},...)}\delta_{\mu}+A_{\nu}(...,\xi_{\mu}+\delta_{\mu},...)\sqrt{g_{\nu}(...,\xi_{\mu}+\delta_{\mu},...)}\delta_{\nu}-A_{\mu}(...,\xi_{\mu}+\delta_{\mu},...,\xi_{\nu}+\delta_{\nu},...)\sqrt{g_{\mu}(...,\xi_{\mu}+\delta_{\mu},...,\xi_{\nu}+\delta_{\nu},...)}\delta_{\mu}-A_{\nu}(...,\xi_{\nu}+\delta_{\nu},...)\sqrt{g_{\mu}(...,\xi_{\nu}+\delta_{\nu},...)}\delta_{\nu}\\
&=&(\frac{\delta A_{\nu}}{\delta \xi_{\mu}}+\frac{1}{2g_{\nu}}\frac{\delta g_{\nu}}{\delta \xi_{\mu}}A_{\nu})\sqrt{g_{\nu}}\delta_{\mu}\delta_{\nu}-(\frac{\delta A_{\mu}}{\delta \xi_{\nu}}+\frac{1}{2g_{\mu}}\frac{\delta g_{\mu}}{\delta \xi_{\nu}}A_{\nu})\sqrt{g_{\mu}}\delta_{\mu}\delta_{\nu}+o(max(\delta^{2}_{\mu},\delta^{2}_{\nu}))
\end{eqnarray}
$F(\mathcal{D})$上で定義されたベクトル場$\vb*{A}(f)=\sum_{\mu\in\Gamma}A_{\mu}(f)f_{\mu}$に対して$\curl{\vb*{A}}$を以下の様に定める。
\begin{eqnarray}
(\curl{\vb*{A}})_{\mu\nu}&\coloneqq&(\frac{\delta A_{\nu}}{\delta \xi_{\mu}}+\frac{1}{2g_{\nu}}\frac{\delta g_{\nu}}{\delta \xi_{\mu}}A_{\nu})\frac{1}{\sqrt{g_{\mu}}}-(\frac{\delta A_{\mu}}{\delta \xi_{\nu}}+\frac{1}{2g_{\mu}}\frac{\delta g_{\mu}}{\delta \xi_{\nu}}A_{\mu})\frac{1}{\sqrt{g_{\nu}}}\\
&=&\frac{1}{\sqrt{g_{\mu}g_{\nu}}}\{\frac{\delta(\sqrt{g_{\nu}}A_{\nu})}{\delta \xi_{\mu}}-\frac{\delta(\sqrt{g_{\mu}}A_{\mu})}{\delta \xi_{\nu}}\}
\end{eqnarray}
三次元であれば、ベクトルとして解釈しなおす事が出来ます。
はい...
一応この式自体は、例えば次の文献こちらの文献：Electromagnetic Theoryに既に書いてある既出のものです。
ですが、これ関数に関する微分なので注意が必要です。
因みに、この話をもっと深めていけば物理学では定番の最小作用の原理や機械学習などにおける最適化問題の話に繋げる事も可能でしょう。
ただ、今回は級数の加速を幾何学的に捉える事が目的ですからこの様な話に進んでいくのはやめましょう。
級数の加速と微分幾何学
以下$\mathbb{N}_{0}=\{0\}\cup\mathbb{N}$という記号を定めます。
まず、数列$\{a_{n}\}_{n\in\mathbb{N}_{0}}$に対して定まる級数$S=\sum_{n\in N_{0}}a_{n}$を加速したい場合を考えましょう。
この時、重要なのは何か上手い直交座標系$\{\phi_{n}\}_{n\in\mathbb{N}_{0}}\subset F(\mathcal{D})$を与えられている場合を考える。
\begin{equation}
g_{n}\delta_{m,n}=\int_{\gamma}\phi_{m}(z)\phi_{n}(z)d|z|
\end{equation}
この時、関数以下の様な関数を定めると
\begin{equation}
f(z)=\sum_{n\in\mathbb{N}_{0}}\frac{a_{n}}{g_{n}}\phi_{n}(z)
\end{equation}
次式が得られる。
\begin{equation}
S=<\sum_{n\in\mathbb{N}_{0}}\phi_{n},f>
\end{equation}
という事は、あるかどうかはともかく、ユニタリー変換$U$が適当に定義出来ればとりあえず別の直交基底系$\{\hat{\phi}_{n}\}_{n\in\mathbb{N}_{0}}$が存在して以下の様に書けます。
\begin{equation}
U\phi_{n}=\sum_{m\in\mathbb{N}_{0}}\hat{\phi_{m}}u_{nm}
\end{equation}ゆえに、以下の式を得る。
\begin{eqnarray}
S&=&< U\sum_{n\in\mathbb{N}_{0}}\phi_{n},Uf>\\
&=&<\sum_{m,n\in\mathbb{N}_{0}}\hat{\phi_{m}}u_{nm},\sum_{m,n\in\mathbb{N}_{0}}\frac{a_{n}}{g_{n}}\hat{\phi}_{m}u_{nm}>\\
&=&\sum_{m_{1},m_{2},n_{1},n_{2}\in\mathbb{N}_{0}}u_{n_{1}m_{1}}u_{n_{2}m_{2}}\frac{a_{n_{2}}}{g_{n_{2}}}<\hat{\phi}_{m_{1}},\hat{\phi}_{m_{2}}>\\
&=&\sum_{m_{1},m_{2},n_{1},n_{2}\in\mathbb{N}_{0}}u_{n_{1}m_{1}}u_{n_{2}m_{2}}\frac{a_{n_{2}}}{g_{n_{2}}}\delta_{m_{1},m_{2}}\\
&=&\sum_{m,n_{1},n_{2}\in\mathbb{N}_{0}}u_{n_{1}m}u_{n_{2}m}\frac{a_{n_{2}}}{g_{n_{2}}}\\
&=&\sum_{n_{2}\in\mathbb{N}_{0}}(\sum_{m,n_{1}\in\mathbb{N}_{0}}\frac{u_{n_{1}m}u_{n_{2}m}}{g_{n_{2}}})a_{n_{2}}
\end{eqnarray}
これでは...いけませんね！
ではなんか知らんけどいい感じのスカラー場$\mathcal{J}(f)$が存在して、この$\mathcal{J}(f)$が最小になる$f$を定める事で$S$の収束が最も早くなるとしましょうか。
この場合Lagrangeの未定乗数法を使用すればいいですねー
\begin{equation}
\mathcal{L}_{g}(f)=\mathcal{J}(f)+\lambda|S-< f,g>|
\end{equation}
それで、さっき定義した勾配を用いて下記の極値問題を解けば良さそうです。
\begin{eqnarray}
\grad(\mathcal{L}_{g})_{n}&=&\frac{\delta}{\sqrt{g_{\mu}}\delta \xi_{n}}(J(f)+\lambda|S-< f,g>|)\\
&=&0
\end{eqnarray}
つまり、正体不明の$\mathcal{J}(f)$が存在して上述の計算が出来さえすれば（👈ここ重要）級数の加速と微分幾何学との繋がりが明確になりますねー
最後に
今回はとりあえず思いついた事を書きました。
突拍子のないトンでも理論かもしれませんが、この理論が面白いと思って頂けた方引き続き読んで頂けると嬉しいです。
このシリーズは不定期で更新していきます。
この記事を高評価した人
投稿者
