Microsoft、深層学習向け最適化技術「DeepSpeed」を発表
2020年2月16日(日)
Microsoftは2月13日（現地時間）、深層学習向け最適化技術「DeepSpeed」を発表した。
「DeepSpeed」は、深層学習において自然言語モデルのトレーニング効率化を向上させる技術。大規模分散型深層学習向け並列化オプティマイザZeRO（Zero Redundancy Optimizer）を搭載しており、データの並列化に要するリソースを節約できる。「DeepSpeed」を利用することによって、分散型のモデル学習を簡単かつ効果的に実行できるようになり、1000億件にのぼるパラメータモデルにも対応できるようになるとしている。
「DeepSpeed」は、GitHubから入手できる。
(川原 龍人/びぎねっと)
[関連リンク]
アナウンス
Think ITメルマガ会員登録受付中
Think ITでは、技術情報が詰まったメールマガジン「Think IT Weekly」の配信サービスを提供しています。メルマガ会員登録を済ませれば、メルマガだけでなく、さまざまな限定特典を入手できるようになります。
全文検索エンジンによるおすすめ記事
- MySQL 5.6での機能強化点（その1）- パフォーマンスと使い勝手を大きく向上
- CISA、Microsoft AzureおよびMicrosoft 365環境で異常を検出するツールを無償公開
- TFXを使った機械学習パイプラインの構築（実装編その2）
- Microsoft、「Office 365」として展開されているサービスを「Microsoft 365」に名称変更
- 「Raspberry Pi Zero W」にGPIOを実装したモデル「Raspberry Pi Zero WH」リリース
- Uber、深層学習モデルのトレーニングツール「Ludwig」リリース
- Uber、深層学習モデルのトレーニングツール「Ludwig」リリース
- Microsoft、インテリジェントライティングアシスト機能を備えた「Microsoft Editor」を発表
- Microsoft、「Microsoft SQL Server 2019 CU3」をLinuxおよびコンテナに対応させたと発表
- Microsoft、「Microsoft Defender Advanced Threat Protection（ATP）for Linux」のパブリックプレビューを開始