Microsoft、深層学習向け最適化技術「DeepSpeed」を発表

Microsoftは2月13日（現地時間）、深層学習向け最適化技術「DeepSpeed」を発表した。

　「DeepSpeed」は、深層学習において自然言語モデルのトレーニング効率化を向上させる技術。大規模分散型深層学習向け並列化オプティマイザZeRO（Zero Redundancy Optimizer）を搭載しており、データの並列化に要するリソースを節約できる。「DeepSpeed」を利用することによって、分散型のモデル学習を簡単かつ効果的に実行できるようになり、1000億件にのぼるパラメータモデルにも対応できるようになるとしている。

　「DeepSpeed」は、GitHubから入手できる。

(川原 龍人/びぎねっと)

[関連リンク]
アナウンス