BentoML、オープンソースの大規模言語モデルプラットフォーム「OpenLLM 0.1.6」をリリース

2023年6月24日(土)

　BentoMLは6月17日(現地時間)、オープンソースの大規模言語モデルプラットフォーム「OpenLLM 0.1.6」をリリースした。

「OpenLLM」は、本番環境で大規模言語モデル（LLM）を実行、展開、監視するためのオープンプラットフォーム。Alache License 2.0の下でオープンソースソフトウェアとして公開されている。

「OpenLLM 0.1.6」では、配信中に量子化を有効化できるようになったほか、トップレベルのCLIがリファクタリングされるなど、いくつかの機能強化が施されている。

「OpenLLM 0.1.6」は、GitHubから入手できる。

(川原龍人/びぎねっと)

[関連リンク]
アナウンス(GitHub)

※本ニュース記事はびぎねっとITニュースから提供を受けて配信しています。
転載元はこちらをご覧ください。

Think ITメルマガ会員登録受付中

Think ITでは、技術情報が詰まったメールマガジン「Think IT Weekly」の配信サービスを提供しています。メルマガ会員登録を済ませれば、メルマガだけでなく、さまざまな限定特典を入手できるようになります。