バックプロパゲーションとディープラーニング|誤差逆伝播法, Backpropagation & Deep Learning
定理:バックプロパゲーションとディープラーニング(誤差逆伝播法, Backpropagation & Deep Learning)
歴史的重要性:
人工知能(AI)における機械学習の革命的進展をもたらしたアルゴリズム。ニューラルネットワークの学習効率を飛躍的に向上させ、現代のディープラーニング(深層学習)時代を切り拓いた。画像認識、音声認識、自然言語処理など、現在のAI技術の基礎的手法となっている。
発表者:
ジェフリー・エベレスト・ヒントン(Geoffrey Everest Hinton)
生年月日:
1947年12月6日
出生地:
イギリス・ロンドン(London, UK)
主な論文:
『学習表現における誤差逆伝播法』(Learning representations by back-propagating errors)
発表年:
1986年
発表場所:
アメリカ合衆国・ペンシルベニア州ピッツバーグ
(ヒントンは当時、カーネギーメロン大学で研究を行っていた)
受賞:
ジェフリー・ヒントンはAI分野での貢献により、2018年チューリング賞(AI分野におけるノーベル賞相当)、2016年京都賞先端技術部門などを受賞。
公式(バックプロパゲーションの基本式):
\[w_{ij}^{(new)} = w_{ij}^{(old)} – \eta \frac{\partial E}{\partial w_{ij}}\]公式の説明:
- wij:ニューロン間の接続重み
- E:誤差関数(目標出力と実際の出力との差異を表す)
- η \eta:学習率(パラメータの更新幅を調整)
- 出力層から入力層方向へと逆に誤差を伝播させ(逆伝播)、各層の重みを調整する。この繰り返しにより、ネットワークが最適なパラメータを学習する。
親交の深かった科学者:
- ヤン・ルカン(Yann LeCun、共にディープラーニングを発展させた研究者)
- ヨシュア・ベンジオ(Yoshua Bengio、AI分野での共同研究・交流)
- デミス・ハサビス(Demis Hassabis、AI開発者、DeepMind創業者)
- アンドリュー・エン(Andrew Ng、AI教育および機械学習研究で交流)
- ジョン・ホップフィールド(John Hopfield、AI・ニューラルネット研究で影響を与え合った)