昨今の事情を考慮して、昼食の時間帯にウェブセミナーを実施いたしました。
群馬大学 川口 貴弘 先生
京都大学 丸田 一郎 先生
zoomによりオンライン実施
12月28日(月) | |
---|---|
11:15~ | zoomミーティングルーム開場 |
11:30~12:00 | 話題提供 「未来の制御系講義」 |
12:05~ | 講演 「深層学習のための微分計算法入門〜計算グラフと自動微分・誤差逆伝播法〜」 |
オンラインでの制御系科目(座学・学生実験)の様子を紹介し、好き勝手に感想などを言い合おう。
参考:(https://youtu.be/y-C4AId2Za8)
近年発展が著しい深層学習では、深層ニューラルネットワークのパラメータが勾配法によって調整される。勾配法では評価関数のパラメータに関する微分が用いられるが、これを手計算で導出することは可能ではあるが骨の折れる仕事である。この微分計算を自動化する自動微分という技術を利用できるフレームワークの登場が深層学習の発展に大きな役割を果たしてきた。自動微分ではニューラルネットワークを計算グラフとみなすことで、解析的な微分を求める一連の手続きを導出する。これは、数値微分や解析微分(シンボル微分)とは異なる考え方である。本講演では、自動微分とその周辺の技術について簡単に紹介する。