正則線型性にお帰りやし( ・ิω・ิ) <●>π
『あなた方の多くはすでに自分の青写真を知っており、今後どのようなことに導かれていくかも知っています。
あなた方は、それぞれ、自分のあり方のもっとも深いところでは、あなたの計画が何であるかも知っています。
そうしたあなたの自覚を妨げるのは、そのような計画を実行するだけの才能が自分にはないとか、自分にはとてもできないことだと論理的に考えてしまうことです。
あなたが瞑想の状態に入れば、あなたが誰であるか、現実とはどのようなものか、あなたの任務の次のステップは何かといったことについてのヴィジョンを与えられるでしょう。』
さて、なかなかモチベーションは上がらんですが、まだまだ寒いんだよな~。
今までパウリ行列やら線形変換などと言ってたら、いつの間にかカーネル関数なんてものに。。
リー群をちゃんと勉強すると量子機械学習くらいはおまけでついてくるということかと。(^^;
カーネル関数というのは、サンプル(学習データ)どおしの内積なんだよな。
この意味は何なんだ?(;´Д`) などと考えるとだんだん理屈でもなくなってくるような。。
これは(共分散のルートの)標準偏差のようなもので、データの類似度を表すらしい。
要は、近似曲線のフッティングに関することで、恣意的な特徴量なんてものは要らなくなるんすな。
つっても目的ないんで、そこらへんはテキトーに流したいと思いますぅ。( ・ω・`)
ところで、L1ノームだとかL2ノームだとかいうK空間(計量ヒルベルト空間)の性質が出てくるが。
これは直交系における、いわゆるマンハッタン距離(固有ベクター長さ)と直線距離の違いだねぇ。
二次元ならL2ノームの方が自然だと思うが、わざわざL1ノームを使うメリットってあるんだろうか?
ここで正則化などと門外漢には耳慣れない言葉が登場する。
(百分率への)正規化ならわかるんだが、これはまたちょと違う!
正則という言葉は、複素関数でいたるところ微分可能($C^{\infty}$)なんて文脈で登場したかと思ったが。
力学変数 $\psi(x)$ ってのは自由度が高過ぎるんだな。\(゚`∀´゚)/リキガク ジェ~ム
計算途中で無限大が現れたら発散しちゃうからね。
正則化はこれを抑え込むためのものだといふ。( °Д°)ナ~ル!
要はフッティングに関しては(説明変数が)一次元のがエエわってことなんすな。
そもそも、最小二乗推定量はいつでも求まるわけではないといふ。(ω・。)ナヌッ
それは$X^{T}X$が正則でない場合に起こるとなっ。
そこで、あえてそこに正則化項を付加しておると。( * )Д`)/ヤヤコシイ
ディクロニウス研究員 >>> | 越えられない壁は続くよどこまでも。。
これを無理くり線形代数のお勉強に結び付けると。
正方行列(n×n)に対し、以下の条件はすべて同値だといふ。
- $AB=BA=I$となる行列$B$が存在する
- $\det A \ne 0$
- $\text{rank}\hspace{1}pt A=n$
- $\text{Ker}A = \{\hat{0}\}$
- すべての$A$の固有値が$0$でない
どっかで目にしてるのかもしれんが、全然心に響かんのだがw
これは整数表現で言うと $a\ne 0$ なら $1/a$ があるので逆演算(商)出来るべってなことなんすな。
*整数と言ってしまったが、たとえば $1/2$ とかは整数じゃなかった。
積に対する逆元がないので、整数は環であるが体ではないんですな。(ロ_ロ )ナルホドナルホド
階数との繋がりは、すべての行列は $\begin{pmatrix}I & \bold{0} \\ \bold{0} & \bold{0}\end{pmatrix}$ てなランク標準形なんてモンに変形出来るからのようで。
$\begin{pmatrix}0 & 0 \\ 0 & 0\end {pmatrix} \begin{pmatrix}x \\ y\end{pmatrix} = \begin{pmatrix}0 \\ 0\end{pmatrix} \ , \ \begin{pmatrix}1 & 0 \\ 0 & 0\end {pmatrix} \begin{pmatrix}x \\ y\end{pmatrix} = \begin{pmatrix}x \\ 0\end{pmatrix} \ , \ \begin{pmatrix}1 & 0 \\ 0 & 1\end {pmatrix} \begin{pmatrix}x \\ y\end{pmatrix} = \begin{pmatrix}x \\ y\end{pmatrix}$
(の像の次元)がそれぞれ、0階、1階、2階ってことなんだな。( °Д°)ナ~ル!
これで準同型=線形写像ってのもつかめたような。。
で、これが正則行列の条件なんだってさ。 ( ・ิω・ิ)ナンノコッチャ ( ) ( ) シ~ン
( * )Д`)/アア3!! (;o_o) <●>π ( ) ( )