安藤さんの記事: HPCが人工知能の進化を加速させる - Baiduが語ったHPCとAIの関係性
(1) 人工知能をスーパーチャージするHPC
メモ、
メモ、
BaiduのDeep Speechでは次々と1文字ずつを推測するネットワークが並んでいる「Recurrent Neural Network(RNN)」を使い、並列処理を行っている。RNNは時系列のデータを扱うために考案されたネットワークで、各タイムスロットを担当する多数のネットワークが並んでいる。
(2) 精度の向上がゲームチェンジを引き起こす
メモ、
(4) 今後、AI活用はどこに向かうのか
メモ、
メモ、
Ng氏は95%の精度と99%の精度の認識は質が違い、Game Changingになるという。まだ、Baiduの音声認識は99%の認識率には達していないが、99%が視野に入るところには来ている。
昔のアルゴリズムでは、学習データを増やしていくとすぐに飽和して、高い性能は得られなかった。ニューラルネットワークも飽和はするが、ネットワークの規模を大きくすると飽和レベルが上がる。このため、ネットワークを大きくして、学習データを増やすと高い性能が得られるという。つまり、性能を上げるためにはネットワークを大きく、複雑にし、学習するデータ量も増やす必要があり、より強力な計算パワーが必要になる。(3) ディープラーニングに第2のトレンドが到来
(4) 今後、AI活用はどこに向かうのか
メモ、
いずれにしても、AIの精度を向上させるためには、より強力なコンピュータを必要としており、スーパーコンピュータの発展が不可欠である。
