GTC 2019ではFacebook、Google、Walmartなどによる人工知能関連のセッションが満載

GPUが人工知能、機械学習のプラットフォームとして拡大している現在、GPUのリーディングベンダーであるNVIDIAの年次カンファレンス、GPU Technology Conference 2019（GTC）では、多彩な人工知能関連のセッションが行われた。今回のレポートでは、その中からFacebook、NVIDIA、Google、Walmart、Bloombergそして中国のトラック自動運転のベンチャーであるTuSimpleのセッションを紹介する。

FacebookによるGPUの使いこなし

最初に紹介するのはFacebookの「Optimizing Facebook AI Workloads for NVIDIA GPUs」というセッションだ。これはFacebookの中で実行されている複数部門によるGPU関連のワークロードを最適化して、いかにしてGPUの性能をフルに引き出すか？　という部分にフォーカスしたプレゼンテーションだ。

社内の複数のグループによるGPUを使ったトレーニング実行を最適化が目的

ここで重要なのは、機械学習のモデルを使い方に合わせて最適化するのではなく、GPUをフルに使うように最適化する方法論を選んだという部分だろう。

GPUにおいてワークロード実行時の最適化を目指す

そしてアプリケーションの実行状況をトレースするために、CUPTI（CUDA Profile Tools Interface）を用いたトレースを利用してGPUの利用状況やボトルネックなどについて解析を行い、改善を施したという内容だ。特にCPU・GPU間のデータコピーの回数やキャッシュへのヒット率、ストリーミングマルチプロセッサの占有時間などについてのデータを元に性能改善を行ったという話だ。特に興味深いのは、NVIDIAが提供している開発プラットフォームのNsightを使わずに、CUPTIを使った自社製のトレーシングライブラリーをアプリケーションに組み込んで分析を行ったという部分かもしれない。今後はNsightを使う方向を予定しているという。

CUPTIを使った独自のライブラリーを使用

実際、最適化前と後では劇的に性能が改善しているのが分かる。

最適化の前後の比較

最適化で得られた教訓として、「CPUとGPUのアーキテクチャーの違いを意識すること」「タイムライントレーシングを最初に試すこと」などが挙げられ、解説された。人工知能をフルに活用しているイメージのあるFacebookであっても、GPUのエキスパートはそれほど社内に存在しないということに軽く衝撃を覚えたセッションとなった。

Element AIによるDGX-1のユースケース

次はNVIDIA DGX-1を使ったスーパーコンピュータ、SATURN Vのセッションで、前半はNVIDIAのエンジニアがSATURN Vの概要を説明し、後半はElement AIのIT責任者がモントリオール港のコンテナ配送を人工知能によって最適化し、ドライバーの待ち時間を削減したというユースケースを紹介した。

NVIDIAのスーパーコンピュータ、Saturn Vの外見

モントリオール港におけるトラックを使ったコンテナ配送のユースケースは、どの時間帯にトラックを港に配置すれば最も待ち時間が少なくなるか？　という問題を、NVIDIAのDGXとPure Storageを使ったシステムで解決したというものだ。

港におけるトラック配送のスケジューリング問題

Element AIはカナダに拠点を持つAI特化のベンチャーで、モントリオールにオフィスを持つことから今回のユースケースに繋がったようだ。

モントリオール港のディスパッチシステムの概要

GoogleによるTensorFlow 2.0の紹介

次のセッションは、TensorFlowのデベロッパーアドボケイト、Paige Bailey氏によるTensorFlow 2.0の紹介だ。

プレゼンテーションを行うBailey氏

現在Googleに所属するBailey氏は、その前にはMicrosoftで機械学習のデベロッパーアドボケイトとして活動していた。Googleに加わったのが2018年11月ということで、Googleの中のキャリアはまだ短いものの、機械学習においてはエキスパートという実績を持って講演を行った。2015年から公開されているTensorFlowは、2.0として開発が進んでおり、すでにAlpha版として公開が行われている。

TensorFlow 2.0の概要

TensorFlowはGoogleの製品や社内で多く使われており、データセンターの省電力の取り組みやGoogleのスマートフォンPixelの写真アプリなどにも組み込まれていることが紹介された。

GoogleでのTensorFlowのユースケース

TensorFlow 2.0は使い勝手や柔軟性などをゴールに開発が進められているそうで、特に強調されたのは推論の部分をデータセンターからスマートフォン、そしてブラウザーまで含めて複数対応を行っているという部分だった。

複数のプラットフォームに対応

特にスマートフォンのようなエッジデバイスでの使用を想定したTensorFlow Liteは、音声認識や動画の認識などにも応用されているという。

TensorFlow Liteのユースケース

他にもオンライントレーニングのコースの開発も進んでいるということで、Googleらしくソフトウェアを中心としたプレゼンテーションとなった。

WalmartやBloombergによるユースケース

Walmart、Bloombergは、それぞれ店舗における需要予測、金融ニュースフィードの分析などといったユースケースを紹介するセッションを行った。

Walmartが対象にした需要予測問題の概要

Walmartの需要予測は、週ごとの需要予測を全米4700店舗に存在する約5億点の品目について行うという巨大な解析問題だ。これまでは商用ソフトウェアで実施していたものを、GPUを活用した自社製ソフトウェアに置き換えるというプロジェクトだ。

このシステムは、Apache Sparkで構築されたデータ分析システムを、RとC++そしてCUDAを使ったものにポーティングし、それをGPUクラスター（SuperMicro製のサーバー14台、1台に付きTesla P100 GPUを4枚格納）で実行するというものだ。

Walmartの需要予測システム概要

Bloombergのユースケースは、主に文章解析の部分に機械学習を使うもので、様々なニュースの情報からポジティブ／ネガティブを判定したり、登場する人物の関係性を抽出したりするもので、ニュースの内容によって株価などが変化することの関係性を見出すという、いかにもBloombergらしい使い方の解説だった。

ニュースによって株価が変化することの例

プロセスの実行には、Kubernetesを使っているそうで、今後はKnativeに移行する予定だという。この辺りは、いかにも最先端のソフトウェアを使いこなしているというアピールをしたかたちとなった。

Bloombergのシステム概要。スケジュールジョブの部分がKubernetes

トラックの自動運転を手がける中国のベンチャーTuSimple

最後に中国のベンチャーTuSimpleの「Autonomous Driving: The Good The Bad and The Ugly」というプレゼンテーションを紹介する。

TuSimpleのプレゼンテーション

このプレゼンテーションは、自動運転の中でもトラックに特化したシステムを開発しているTuSimpleが、自社の自動運転トラックの現状を解説するというものだ。展示スペースにもTuSimpleのトラックが設置されており、他社のセダン、SUVベースの自動運転ビークルを圧倒する存在感を発していた。

TuSimpleの車輌。カメラ／LIDARの多さが特徴的

車輌に設置されたカメラやLIDAR（Laser Imaging Detection and Ranging、レーザーによる画像検出と測距）、その他センサーからのデータを元にビジュアライズされたシミュレーションの画面を用いて、高速道路におけるトラックの運行を解説した。近接する他の車輌と速度、間隔などによって、人間が行っている行動と同様の動きをすることを説明した。TeslaやWaymoなど、競合する自動運転システムは多いが、すでに配送拠点間の自動運転が定例的に行われている点がTuSimpleの強みだろう。

ただ今回のプレゼンテーションでは質疑応答はなしという設定だったので、実用化の時期やコストなどについての情報は得られなかった。北米や中国本土でのトラックによる物流のコストを考えると、トラックの自動運転によるインパクトは日本で考えるよりも遥かに大きいと思わせるセッションとなった。

参加者もデータと化すのがGTC

今回は主に人工知能、機械学習に絞ってセッションを紹介したが、どれも内容が濃く参加者にとっては有用だったようだ。データを重んじるNVIDIAらしく、全てのセッションで必ず参加バッジがスキャンされ、スマートフォンアプリではフィードバックを行うことが推奨されていたことを考えると、NVIDIAそしてプレゼンテーションを行ったスピーカーにとっても、多くのデータを得ることができたカンファレンスであったように思われる。