Red HatがAIに関するブリーフィングを実施。オープンソースのAIが優れている理由とは

AI・人工知能

インタビュー

連載 :

インタビュー

2024年4月19日(金)

松下康之 - Yasuyuki Matsushita

来日したRed HatのAI部門の責任者らにインタビューを実施。オープンソースのAIが優れている理由などを訊いた。

レッドハット株式会社が本社から来日したOpenShift AIの責任者によるブリーフィングを実施。日本で開催したワークショップに合わせてメディア向けにストラテジーやチャレンジなどを解説した。

今回のブリーフィングに参加したのは以下の3名だ。Steven Huels氏（Senior Director & GM, AI Business Unit）、Sherard Griffin氏（Senior Director, Software Engineering Global）、Christopher Joseph Nuland氏（Principal Technical Marketing Manager）。

左からSteven Huels氏、Sherard Griffin氏、Christopher Joseph Nuland氏

所属する部署ですが、独立した組織になったのはいつ頃ですか？

Huels：2023年の10月頃に独立した組織になりましたが、実際にはOpenShiftの中の組織としてはもう3年ほど存在していました。ビジネスサイドの人間はそれほど多くなくて、十数名程度ですが、開発のエンジニアは約100名が関わっています。

OpenShiftとOpenShift AIの違いは？

Huels：OpenShiftはKubernetesをコアとしたプラットフォームで、コンテナベースのアプリケーションのためのインフラストラクチャーですが、AIにおいては必要とされるものが異なるわけです。データをどうやって保持するのか、モデルを実行するためのCPU/GPUはどうやって用意するのか、またデータに対するセキュアなアクセスも必要です。OpenShift AIはOpenShiftをベースにしてAI、機械学習に特化したプラットフォームです。なのでAIのデベロッパーやデータサイエンティストは、インフラストラクチャーとして何が使われているのかを意識せずに必要な機能を組み合わせて使うことができます。

Griffin：現在はOpenShift AIという名称になっていますが、これはかつてOpenShift Data Scienceと呼ばれていたサービスになります。

Red Hatが提供するソフトウェアは必ずオープンソースソフトウェアである必要があるのは変わらないと思いますが、OpenShift AIについても同様にオープンソース版が存在するんですか？

Huels：良い質問です。スライドを使って説明しましょう。今、企業がAIをアプリケーションに組み込む際や、AIによる対話型のアプリケーションを作ろうとした場合、オープンソースソフトウェアを無視することはできません。しかしそれぞれのツールは独自のツールやプラットフォームを使っていてお互いが補完する形にはなっていないんですね。

そのためにRed Hatは、まずAIが使うデータやツールについて共通のプラットフォームを提供しようと考えたのが始まりです。OpenShift AIはOpen Data Hubというコミュニティのソフトウェアがベースになっています。そしてOpen Data Hub自体もKubeFlowやJupyter NotebookやPyTorch、TensorFlowなどのオープンソースを統合する形で作られています。AIに関するツールはあまりプラグインできる構造になっていないことが多いのですが、OpenShift AIはさまざまなツールをプラグインできるようになっています。このことは企業ユーザーにとって良い選択肢として望まれていることだと思います。

OpenAIのモデルが優れていることは少し前なら当たり前でしたが、オープンソースのモデルであるLlama 2やMistral 7Bも急速に進化していますし、オープンソースのモデルが商用のモデルと同様の結果を出すようになるのはそれほど遠い未来ではないと思いますね。

Open Data Hubがコミュニティ版のOpenShift AI

Griffin：実際に企業ユーザーからは、OpenShiftがAWSやGCP、Azureだけではなくオンプレミスのクラスターで動くことが評価されています。OpenShift AIもオンプレ、パブリッククラウドなどで実行できることが差別化のポイントだと思います。

実際にAIの応用について多くのエンタープライズのITマネージャーから聴こえてくるのは「データに対するセキュリティが心配だ」というものです。GPT-3.5などで作ったアプリケーションに、自社に特化した対話をさせるためには大量の社内データを公開しなければいけないのでないか？という声です。これにはどのように対応できるのですか？

Huels：それは多くのエグゼクティブが共通に持つ心配ですね。よく質問されますよ。すでに多くの企業のエグゼクティブは、AIを自社に取り入れることを課題の一つとして挙げています。OpenShift AIは生成型AIが登場する前からデータの保護については取り組んでいますので、その点についても顧客からは評価されていると思います。

OpenShift AIのプライスモデルは？

Huels：これも多くの顧客からのフィードバックからわかったことですが、他のAIサービスはCPUの数やコアの数だけではなくIngress/Egressなどのデータ転送量やストレージについても課金の対象となってしまうため、事前にどのくらいコストがかかるのか予想を立てにくいという問題点がありました。OpenShift AIについては実行されるサーバーのコア数だけで課金が行われるようになっていますので、正確にどのくらいコストが発生するのかを把握しやすくなっています。ただ、すでにサーバー側だけではなくエッジ側でAIを実行したいというニーズがあることも理解していますので、今後、プライスモデルについてはエッジでのコストも検討刷る必要があるとは思います。

今後の予定について教えてください。

Huels：AIを開発する部分については、これからいろいろな側面で進化していくだろうと思いますが、実行したりモニタリングしたりする部分はさらに強化していく必要があると考えています。

Griffin：ひとつ考えなければいけないポイントとしてCPUとGPUの使い分けがあります。今まではAIの実行にはGPUが不可欠だと思われてきましたが、実際に多くの顧客が豊富にGPUを所有しているわけではありませんし、CPUだけで実行できるように進化もしています。

現実的な使い分けはパブリッククラウドのGPUインスタンスを使ってモデルを学習させ、実行はオンプレミスのCPUで安価に行うという姿かもしれませんね。

Huels：顧客にとっては、その使い分けはとても魅力的な内容だと思いますね。実際にAWSのSageMakerをそのように使うユーザーもいると思います。CPUで実行するという部分もMLのライブラリーが進化することで速度的にもGPUと遜色ない性能が出ている例もあります。

過去にNVIDIAのGTCを取材した時にCEOのJensen Huangは参加者に「もっとGPUを買いなさい、そうすればもっとコストを下げられる（Buy More, Save More）」ということを何度も繰り返し言っていましたが、実際にはGPUを買うコスト以上にオペレーションのコストを下げるのは難しいと思いますよね。

Huels：わははは。彼は偉大なセールスマンです（大爆笑）。

OpenShift AIについてのチャレンジを教えてください。

Huels：チャレンジというよりも今後何が起こっていくのかを予想してみますと、Googleがインターネット検索をコモディティ化したのと同じことが、生成型AIについても起きると思います。つまり生成型AIが現れる以前、AIは専門家のためのタスクでした。でもChatGPTによってAIを使うということが簡単になりました。そして今や多くのCEOやエグゼクティブが、自社の競争力強化のためにAIを課題として挙げています。これからもさまざまなモデルや手法が開発されていくでしょう。その時にクラウドからオンプレミスまでプラグインによって拡張できるOpenShift AIの強みが評価されていくことになると思います。

OpenShift AIの責任者とエンジニアリング担当、そしてテクニカルマーケティングが揃って、Red Hatが提供するAIワークロードのためのプラットフォームを解説したブリーフィングとなった。「Red Hatはいまだにインフラストラクチャーの会社というように思われている」と率直に印象を述べたところ「良いフィードバックをくれてありがとう」とこちらが感謝される場面もあった。シンプルな価格モデルとモデルを選択可能なオープンソースプラットフォームが、AWS、GCP、Azureなどのパブリッククラウドと競争しながら協業するという状況でどのくらい支持を受けられるのか、日本での進捗を注目していきたいと思う。