WasmCon 2023でFermyonのCTO、Radu Matei氏に訊いた。WASI進化の注目ポイントとは

WasmCon 2023からWebAssemblyによるServerless AIを推進するFermyonのCo-FounderでCTOのRadu Matei氏のインタビューをお届けする。Matei氏はFermyonのCEOであるMatt Butcher氏などとMicrosoftで働いていたが、2021年のFermyon創業に参加し、現在はFermyonのCTOとしてWebAssemblyの進化をプッシュする役割を果たしている。WebAssemblyエコシステムの中の重要人物と言っても過言ではないだろう。

Matei氏がWasmConに参加している同時期に、ロンドンで開催されたCIVO NavigateというカンファレンスにはCEOのMatt Butcher氏が参加しているという。世界各地で開催されるリアルイベントに積極的に参加してFermyonの知名度を上げ、WebAssemblyのフレームワークであるSpinの利用を促進するという目的に向かって邁進しているというわけだ。

自己紹介をお願いします。

Matei：私はFermyonのCTOでCo-FounderのRadu Mateiです。これまでのキャリアではずっと分散処理に関わる仕事をしてきました。MicrosoftではAzureのComputeチームでWebAssemblyに関わっていました。他にもBytecode AllianceやCNCFに関わる仕事もありましたね。

FermyonのCTO、Radu Matei氏

私も1995年のWindows 95の頃にレドモンドで働いていましたが、あの頃のMicrosoftとは今や大きく違っていますね（笑）

Matei：そうですね。今、Microsoftはオープンソースにコミットしていますし、分散処理の分野でも良い仕事をしていると思います。

今回のカンファレンスではLLMや機械学習のワークロードをWebAssemblyの中で実行するというのが大きなテーマとなっていました。急にその部分に注目が集まっているのはどうしてでしょう？

Matei：その分野は私自身から見れば全然新しいものではないんですよ。実際WASI-NNは2019年から開発されていますから。今、ここに現れているのはテクノロジーそのものが新しいということではなく、新しいユースケースが増加している、実際にLLMの実行にWebAssemblyを使ってみようという人たちが増えているということだと思います。なので元々WASI-NNに関わっていたエンジニアたちにしてみれば、何も新しい話ではないということですね。

このカンファレンスに合わせてFermyonのServerless AIがプライベートベータとして発表されましたが、それに関する反響は？

Matei：今のところ良好ですね。これがプライベートベータなのは、さまざまなユーザーによってどのように使われるのかを我々も知りたいからです。そしてその使い方に合わせて、これからファインチューンしていく予定だからです。例えば、Llama2のモデルに企業が保有するデータを入れてモデルを作ると普通に70GB程度のモデルが生成されます。しかしこれをある領域だけに限定すればモデルのサイズは100MB程度に小さくすることが可能です。これのどちらを選択するのか？ についてはユーザーに任せられていますが、どの場合もFermyonのプラットフォームで提供できることが重要だと思いますね。

WebAssemblyの利用がAIに拡がるにつれて、ツールのエコシステムも拡大する必要があると思いますが、その辺りについては？

Matei：それはその通りです。オブザーバビリティについてはOpenTelemetryやトレーシングなどが対応していますし、何よりも外部のソリューションを組み込むための仕組みとしてコンポーネントモデルがあるわけです。コンポーネントモデルに準拠すれば、さまざまな外部のソリューションをリンクして利用することができますし、結果としてエコシステムの拡大に繋がると思います。

関連する話ですが、オーケストレーションについても説明しておきましょう。Fermyonの最初のターゲットとしてサーバーレスのワークロード、つまりステートレスで必要な時に起動され実行したら終了するようなワークロードですね、これについてはSpinの非常に軽量なオーケストレーターが対応しています。ただそれ以外にもオーケストレーターとして要望が多いKubernetesについても対応しています。他にもHashiCorpのNomadやRed HatのOpenShiftなどについてもSpinが対応するようになります。このように、要望の多いオーケストレーターについては柔軟に対応するということになりますね。

サーバーレスのように必要な時に瞬時に立ち上がって必要がなくなれば終わるという使い方に最適なプラットフォームがSpinというのは理解しました。一方で、世の中にはバッチジョブのようにずっと実行されていることが必要なワークロードもありますよね？ それへの対応は？

Matei：本当にそのワークロードがずっと実行し続けないといけないような性格のものであれば、今のSpinには適していないとは言えると思います。

Fermyonが過去に見せたデモではプロセスが瞬時に立ち上がって必要な仕事をするということの利点を訴えていますが、Spinはそういうワークロードに最適化されているのでそれと反対のことをするのであれば別のプラットフォームのほうが良いということですね。

●参考：過去に紹介したFermyonが見せたデモ：All Things OpenからFermyonTechのMatt Butcher氏のセッションを紹介

Matei：そうです。Spinの強みはミリ秒のオーダーで立ち上がるアプリケーションと軽量なNomadを使ってオーケストレーションする部分です。

日本の顧客がサーバーレスに対する不満の一つとして挙げていた「サーバーレスは実行時間が短すぎて、トラブル時に問題解決の仕方がわからない」というコメントがありました。これについては？

Matei：それについてはWebAssemblyの特徴の一つであるポータビリティが回答になると思います。テストを行う際に本番環境と同じシステムを用意するというのはコストがかかりますよね？ でもWebAssemblyは同じアプリケーションがどのプラットフォームでも実行できるわけです。なので開発したラップトップでテストして、同じアプリケーションをLinuxのクラスターでテストすることが可能になります。

WebAssemblyコミュニティにおけるチャレンジは何ですか？

Matei：現時点ではコンポーネントモデルの大枠ができてインターフェースについても仕様が固まってきて言語の対応も拡がりつつありますので、目指していたものにようやく近づいたという段階ですね。ただ世の中にはさまざまなアプリケーションが存在し、それらがさまざまなプラットフォームで実行されています。その中にはLinux固有のシステムコールを使ったものもWindows固有のものもあるでしょう。それらのすべてをWebAssemblyが解決できるとは言いませんが、多くのワークロード、アプリケーションはWebAssemblyによってより安全にポータブルになれると思います。そのためにはコミュニティやベンダーがもっと努力する必要があるとは思いますね。

もうすぐWASIのPreview2が始まりますが、注目しているのは何ですか？

WASIのPreview 2そしてその次の3がやってきますが、実現するためには多くの地味な仕事が待っているわけです。いわゆる退屈な仕事というやつですね。非同期も必要な機能ですが、私が個人的に注目しているのはストリーミング処理ですね。現状Kafkaで実行されている多くのアプリケーションが存在し、まだKafkaが必要なのはわかりますが、それをWebAssemblyで実行できるというのは良い方向だと思います。これは単に一つのアプリケーションがストリームを受け取って処理するだけではなく、コンポーネントモデルでリンクされた別のモジュールがリアルタイムで処理できるようになれば、ストリーミング処理の応用はさらに拡がると思います。もうKafkaを準備して実行する必要はなくなりますから。

セッションの間の短い時間であったが、的確な回答を返してくれたMatei氏だった。WASIとコンポーネントモデルについては「地味な仕事だが誰かがやらないといけない」とコメントし、早い段階で仕様を書いて、それに対するコミュニティの理解と賛同を集めることの重要さを経験していることが現れていた。