次のIntelのCPUは深層学習の推論性能向上か！？

ディープラーニングが普及している昨今、特にNVIDIAはこの分野で大きく飛躍して1強状態となりつつあります。RADEONシリーズを売っているAMDなどの反撃を期待したいところ。

そんな中、Intelが年末に売り出す「Cascade Lake」には、その深層学習の推論性能をSkylake-SPの11倍も向上するとのこと。

CPUの性能自体が11倍上がるわけではないため、これは明らかに別の何かをつけることを意味してます。その何かを「Intel Deep Learning Boost」と呼んでいるようです。

学習ではなく推論と言っているあたり、Intelがエッジコンピューティングを重視しているのがわかります。

学習環境には大きなサーバーを構えればいいんですが、その学習モデルを使って不具合検査などを行おうと思ったら、できれば小さい(そして安い)端末が望まれます。Intelが目をつけたのは、多分この辺じゃないですかね。

もちろん、GPU搭載機でも小型のものはありますが、GPUってやつは単体では動けないんですよね。コアとなるCPUが必要。それならば、CPUオンリーでそこそこの推論性能が確保できてしまえば、わざわざGPUをつける必要がなくなります。

今のところ、機械学習・AI分野でIntelが躍進したという話を聞きませんね。せいぜい「Movidius Nural Compute Stick」くらいでしょうか？この新しいCPUがこの状況をひっくり返すだけの何かを生み出すきっかけになるか。いずれにせよ、その価格次第ですかね。

Movidius Neural Compute Stick - NCS ニューラル ディープラーニング USB スティック