BentoML、オープンソースの大規模言語モデルプラットフォーム「OpenLLM 0.1.6」をリリース
2023年6月24日(土)
BentoMLは6月17日(現地時間)、オープンソースの大規模言語モデルプラットフォーム「OpenLLM 0.1.6」をリリースした。
「OpenLLM」は、本番環境で大規模言語モデル(LLM)を実行、展開、監視するためのオープンプラットフォーム。Alache License 2.0の下でオープンソースソフトウェアとして公開されている。
「OpenLLM 0.1.6」では、配信中に量子化を有効化できるようになったほか、トップレベルのCLIがリファクタリングされるなど、いくつかの機能強化が施されている。
「OpenLLM 0.1.6」は、GitHubから入手できる。
(川原 龍人/びぎねっと)
[関連リンク]
アナウンス(GitHub)
その他のニュース
- 2024/12/9 JavaScript/TypeScript対応Webフレームワーク「Astro 5.0」リリース
- 2024/12/8 openSUSE project、「openSUSE Leap micro 6.1」をリリース
- 2024/12/8 「GNOME 47.2」リリース
- 2024/12/6 Linuxカーネル「Linux 6.12」が長期サポート版に
- 2024/12/6 モバイル端末向けLinuxプラットフォーム「Ubuntu Touch OTA-7」リリース
Think ITメルマガ会員登録受付中
Think ITでは、技術情報が詰まったメールマガジン「Think IT Weekly」の配信サービスを提供しています。メルマガ会員登録を済ませれば、メルマガだけでなく、さまざまな限定特典を入手できるようになります。