スポンサーサイト

上記の広告は1ヶ月以上更新のないブログに表示されています。
新しい記事を書く事で広告が消せます。


このエントリーをはてなブックマークに追加

過学習と局所解

もし、私が電気の専門家であったなら、電話を発明することはできなかっただろう。
何故なら、そんなものは最初から不可能だと決め付けたであろうから。
グラハム・ベル
冒頭の引用にあるベルの言葉※1は、たまたま見たテレビ番組で取り上げられているの見て初めて知りました。非常に印象的な言葉でした。

技術者として仕事をしていると、無理難題とも言える仕様、無理なスケジュールを突きつけられることが良くあります。そんな時、ついつい「無理を言うのは技術を分かっていないからだ。無理を言われても困る」と考えがちです。しかし、実際は中途半端に技術を理解しているがために視野が限定され、結果として発想力に乏しくなっているのは技術者の側、ということもあるのではないでしょうか。ここで、学生の頃かじったニューラルネットワーク(Neural Network)や遺伝的アルゴリズム(GA)のことを思い出しました。

ニューラルネットワークとGA。どちらも生命現象にヒントを得た最適化/学習モデルです。このような最適化/学習モデルでよく課題として登場するのが「局所解問題(ローカルミニマム問題:local minumum problem)」や「過学習(Overfitting)」です。
局所解問題を簡単に説明するとすれば、「部分的な最適解に系が収束し、本当の最適解にたどり着かない」という現象です(※1)。
過学習の方は、「特定の入力と出力の組み合わせ(学習データ)に対して系が収束しすぎたために、その他の入力(非学習データ)に対する汎用性がなくなってしまう状態」といったところでしょうか。同じ教師パターンで何度も学習を繰り返すことによって発生します。これは、特定のパターンにのみ最適化された局所解に陥ってる状態と見ることができます。

ニューラルネットワークはもともと脳の神経回路を模したモデルですから、実際の人間の脳に関しても同様の現象が見られます。例えば、年を取るほど頑固になるという現象。これは、長期間同じ思考パターンを繰り返している(過学習状態になる)と脳内のシナプ結合が特定のパターンに収束してしまっている(局所解に陥っている)ために起こっていると考えることができます。

冒頭のベルの言葉は、技術者が過学習によって局所解に陥ってしまいがちだということを表しているように理解できます。専門知識に精通すればするほど、その分野の常識にしばられて突飛な発想ができない。まさに、過学習によって局所解に陥っている状態です。

過学習というのは「勉強しすぎ」が問題なのではありません。学習データのパターンが限定されるのが問題なのです。つまり、まずはもっと視野を広げて、幅広い情報に触れることが重要なのです。直接関係のないもの程、役に立つ確立は低いですが、その分発想の飛躍を与えてくれることもあります。
漸近的努力だけでは局所解からは脱出できません。時には確固たる「信念」のようなものも重要ですが、ブレークスルーには発想を飛躍させるための「雑音(ノイズ)」も必要なのです。

最後に、SFの巨匠アーサー・C・クラークの残した有名は言葉を紹介しておきます。
"When a distinguished but elderly scientist states that something is possible he is almost certainly right. When he states that something is impossible, he is very probably wrong."
「著名な、だが年老いた専門家が、何かが出来るというとき、それはおそらく正しい。しかし、何かは不可能だというとき、それは絶対に間違っている」
"The only way of discovering the limits of the possible is to venture a little way past them into the impossible."
「可能性の限界を見極める唯一の方法は、不可能の領域に足を踏み入れてみる事だ」
"Any sufficiently advanced technology is indistinguishable from magic."
「十分に進歩した科学技術は魔法と区別が付かない」
不可能も可能になり得ます。技術者として、不可能への挑戦の気持ちは忘れないでいたいものです。

【関連リンク】
電話の歴史
ニューラルネット入門
Metal Brain(ニューラルネットワークに関する解説があります)
【関連書籍】
学習とニューラルネットワーク (熊沢 逸夫)
遺伝的アルゴリズム (北野 宏明)


(※1)ベルの言葉といえば、初めての電話を通した言葉、"Mr. Watson, come here, I want you." 「ワトソン君、すぐ来てくれ。頼みがある」も有名ですね。
ベルが難聴者教育に熱心であり、ヘレン・ケラーとの交友が深かったことも同じテレビ番組で初めて知りました。

(※2)解空間が多峰性をもつような場合に、バックプロパゲーション等の最急降下法的なアルゴリズムでよく問題になります。

このエントリーをはてなブックマークに追加

コメントの投稿

非公開コメント

人気エントリ
最近の記事
本のおすすめ

4274065979

4844337858

482228493X

4904807057

4873114799


最近のコメント
Links
プロフィール
  • Author:proger
  • 組み込み関係で仕事してます
ブログ内検索
上記広告は1ヶ月以上更新のないブログに表示されています。新しい記事を書くことで広告を消せます。