固有値解法のべき乗法を図形で理解してみる。
早速だが、下図がべき乗法を可視化した図だ。前回の「固有値方程式をまた考える」から、対称行列の固有値方程式は結局楕円ということがわかった。ここではこの楕円とべき乗法がどのように関係するか、可視化してみた。
図1：べき乗法の反復1回目 V1 = A*V0
上図を説明する。べき乗法では、最初に適当なベクトルV0を用意してそれを行列Aに掛ける。そして次のベクトルV1(=A*V0)ができる。さて上図の一番大きなポイントは、V1が楕円の法線ベクトルとなっていることだ。※理由は後述する。
図2：べき乗法の反復2回目 V2= A*V1
図2では、このV1をまた行列Aに掛けて、V2を得る。このV2も楕円の法線ベクトルとなる。そしてさらにVを掛け続けたのが下図だ。
図3：べき乗法の反復を複数回実施
VをAに掛け続けると、やがてVは値が変化しなくなる。なぜ変化しなくなるのか。それは上図を見ればわかるとおり、楕円の短辺の上に来てしまうと法線ベクトルはそれ以上変化しなくなってしまうからだ。そしてこれこそが固有ベクトルだ。
どうだろう、絵にしてしまうとべき乗法はなんと単純なんだろう。
さて、ではなぜV*Aが楕円の法線ベクトルを求めることに対応しているのだろうか。私はこれを以下の2つから大雑把に考えてみた。
条件1.
前回の「固有値をまた考える」から、対称行列の固有値問題は以下の問題と等価である。
「楕円上の点を、拘束条件が円と接するとしてラグランジュの未定乗数法で解く問題」
つまりA*Vとは以下のように傾きの意味になる。
傾き = A * V
|∂f/∂x| |a, b, c| | vx|
|∂f/∂y| = |d, e, f| *| vy|
|∂f/∂z| |c, f, g| | vz|
条件2.
全微分を考える。楕円の式がfとして、全微分のdfが0のとき、楕円が成立すると考える。
つまり以下の式。
df = dx(∂f/∂x) + dy(∂f/∂y) + dz(∂f/∂z) = 0
ここで、dfが0となるためには上式の2つのベクトル(dx, dy, dz)と(∂f/∂x, ∂f/∂y, ∂f/∂z)の内積が0にならなければいけない。(dx,dy,dz)は楕円上を微小距離動く方向、つまり接線方向となる。この接線方向との内積が0ということは、(∂f/∂x, ∂f/∂y, ∂f/∂z)は楕円の法線方向である。そしてこの法線方向は条件1で既に計算できる。そう、A*Vが(∂f/∂x, ∂f/∂y, ∂f/∂z)、つまり法線ベクトルなのだ。
いかがだろうか。
「なんだ、べき乗法って単純だな」なんて感じられたのであれば、可視化は成功だ。
この可視化を使用すれば、重複した固有値がなぜべき乗法で解けないかも簡単に理解できる。
図4：楕円が円のときの反復
上図は重複固有値の楕円、つまり円だ。円であれば、V*Aが全く変化しないことはすぐにわかるだろう。つまり結果は収束しない･･･いや、寧ろどの向きでも既に収束しているというべきか。
さて、今日はこれくらいにしておこう。今後は以下の可視化を考えている。
・QR法
・ヤコビ法
・逆べき乗法
・ランチョス法
・二分法
・サブスペース法
あとは以下も興味深い
・非対称行列（楕円ではない？もしくは中心点がずれている？まだわからない）
・複素数の固有値
[3回]
PR
