物体検出のYOLOと新興AIハードウェアAxelera AIがツールとハードウェアの最適化を発表。最適化されたモデルと推論を実行できるソリューションを解説

生成AIが巨大なGPUクラスターをデータ学習のために必要とするのは、膨大なデータを並列的に行列演算するタスクの処理にGPUが最適であるからだ。推論、特に画像認識や物体のトラッキングなどのリアルタイム処理をデータセンターのクラスターで実行することは、ネットワークの遅延などを想定すれば現実的ではないだろう。そのため、車輛の自動運転、カメラを使った工場での瑕疵や欠陥の認識、ロボットの制御などにおいてはエッジデバイスでの高速推論が求められる。これらのサーバーに依存しない推論の実装はフィジカルAIという形で大きなトレンドになりつつある。GPUのパイオニアであるNVIDIAも2026年6月に開催されたGTC台北ではフィジカルAIが次のフロンティアであることを訴求していた。

今回の稿では、フィジカルAIでは中核となる物体認識のライブラリーYOLOを開発するベンダーUltralyticsと、オランダ発の新興AIハードウェアベンダーであるAxelera AIが、それぞれのソリューションを組み合わせ最適化した協業に関する動画を解説する。登場するのは、動画における物体認識ではUltralyticsとAxelera AIのエンジニア、そして両社のソリューションを活用してユースケースを紹介したInnowiseのエンジニアだ。進行役はUltralytics社のパートナープログラムのマネージャーだ。

5名のエンジニアがそれぞれ交代で解説するAxelera AIとUltralyticsのソリューション

動画は以下のリンクから視聴できる。約1時間という長すぎる構成だが、途中からはデモも行われていることは評価できる。

●Axelera AIとUltralyticsの共同セミナー：Ultralyticsライブセッション22：Ultralytics YOLOとAxelera AIでエッジにおけるビジョンAIを実現！

最初にAxelera AIのソリューションを解説

最初のパートはAxelera AIのソリューションを解説する内容だ。ここでは学習ではなく推論が重要であり、同時に推論のためのコスト、これには金額だけではなく消費電力やフォームファクターも考慮に入れるべきであることが示されている。つまりフィジカルAIにおいてはロボットや監視カメラなどの現場で稼働する推論システムにおいて、高速でコストパフォーマンスが良いプラットフォームが必要だという訴求だ。

コアとなるAI PUと様々な形態のハードウェア、そしてソフトウェアスタックを用意

ハードウェアの中心はAxelera AIが開発したAI Processing Unit（AI PU）だ。AI PUはエッジ向けのMetisとサーバー向けのEuropaという2つのシステムが用意されている。形状はM.2の小さなボード、PCIeのカード、シングルボードコンピュータ、そしてスタンドアロンのシステムという形になる。AI PUの設計はGPUとは異なる発想で作られている。GPUは大量のデータを外部メモリからキャッシュに取り込んでCUDAユニットで演算を行うが、その際にキャッシュから演算ユニットへのデータ転送によるオーバーヘッドが起こることを避けるためにRISC-Vのコントローラーチップの配下に4つのAIコアを配置、AIコアには推論に特化した処理のための専用ユニットが装備され、さらにL1キャッシュと同等の働きをするメモリが装備されている。

GPUでは頻発するデータ転送を避けるために、AI PUはメモリチップの脇で演算処理を行うという設計だ。これをAxelera AIはDigital In-Memory Processingと命名している。MetisのAIコアは単体で53.5TOPSという性能を持っているが、電力効率はGPUが～5TOPS/Wなのに比べMetisでは15TOPS/Wという高い効率となっている。電力効率で4倍、コストパフォーマンスではNVIDIAの2倍から3倍となると解説している。

エッジ向けのMetisとサーバー向けのEuropaを紹介

そしてエッジでの推論のためにAxelera AIのハードウェアとUltralyticsのYOLOモデルを組み合わせて、エッジでの物体検出や認識に最適化したというのがこの2社の訴求ポイントだ。

Axelera AIのハードウェアとUltralyticsのYOLOモデルを最適化

AIはハードウェアだけでは成立せず、必ずフレームワークやSDKなどのソフトウェアスタックが必要となる。Axelera AIではVoyager SDKと呼ばれるソフトウェアがそれに相当する。これはMetis上で最も効率的に開発と実装を行うためのソフトウェアとなる。UltralyticsのYOLOモデルはPythonでモデルを操作することになるが、これまではPythonの依存関係の複雑さから仮想環境を作ってからそこにモデルとPython関連のモジュールをロードするという手間が必要だった。この作業の面倒さを「依存関係地獄」と表現するデベロッパーもいるほどである。

Voyager SDKを紹介。コンパイルから実装まで「午後の就業時間内に終わる」というのがキャッチフレーズ

Voyager SDKのバージョンが1.5から1.6になったことで、これまで手動で仮想環境を設定していた作業がpip installコマンドだけで完結するようになったということをスライドで説明。

Voyager SDKの最新機能を紹介

UltralyticsのYOLOモデルをAxeleraのハードウェア用のフォーマットにエクスポートするだけで準備は終わるというのが最も訴求したいポイントだ。

ちなみにUltralyticsのYOLOモデルとは「You Only Look Once」の略から取られた名称で、2015年に最初のバージョンが公開された高速に画像認識や分類を行うための手法である。名称の通り、画像全体を一度だけニューラルネットに通して分類を行うというテクノロジーで高速な推論が可能になる。最新のバージョンはYOLO26となる。

ネイティブでUltralyticsをサポートした最新バージョン

YOLO26についてはUltralyticsの最新情報を参照して欲しい。

●参考：Ultralytics YOLO26

ここからは実際にデモを通じて、Pythonのコマンド一行でAxeleraのハードウェア用にモデルが変換される部分から実行までをターミナルを使って実行した。

コマンドを叩いてPythonのコードを実行。ExportコマンドだけでAxeleraのモデルに変換

実行されたのは写真から人物と物体を検出するというもので、ここでは人物とバスが検出されている。

写真に写っている人物と物体を検出するデモ

またWebCamの動画からリアルタイムに物体検出を行うデモも実行した。

プレゼンターのPCのWebCamから物体を検出

この部分に使われたデモに関わる詳細なVoyager SDKのAxelera対応については以下のページを参照して欲しい。

●参考：https://github.com/ultralytics/ultralytics/tree/main/examples/YOLO-Axelera-Python

単なる物体検出だけではなく姿勢を検出する推論結果も見せ、YOLOとAxeleraのハードウェアの組み合わせによるエッジでのAI実行の優秀さを訴求した。

デモでは姿勢検出の結果も見せている

デモで利用していたコマンドなどは以下のページから参照可能だ。

●参考：Selecting the Right Hardware#

ここからは最後のプレゼンターであるInnowiseのエンジニアにバトンタッチして、Innowiseのユースケースを紹介する流れになった。Innowiseはポーランドのワルシャワに本社を持つシステムインテグレータで、ヨーロッパを中心に19ヶ国でビジネスを展開している。

最後にInnowiseというインテグレータが登場。ユースケースを紹介

最初のユースケースは衛星の写真とドローンの写真を組み合わせて不動産及び保険のために使うというものだ。マクロレベルの分析には衛星からのデータ、ミクロレベルでの分析にはドローンからのデータを使うというアプローチである。

物体検知の評価指数で85％の確かさを持つと評価

以前はトランスフォーマーモデルを分析に使っていたが、それよりも良い性能を出していること、建物の価値を評価することに使われると思われる屋根の傷みの分析も可能になったとしている。

他には鉄板に空けられた小さな穴によるバイナリーコードの解析をYOLOによって実行したユースケースなどが紹介された。

鉄板に空けられた穴がバイナリーコードとしてYOLOが判定するユースケース

そしてAxelera AIのMetisとYOLOを組み合わせたユースケースとしては、グローサリーストアなどの棚にある飲み物を認識して在庫管理を行うというデモを紹介。

MetisとYOLOの小規模モデルを組み合わせて缶ジュースの検出を実行

これはHDグレードの画像から物体検出を行うデモで、画像からすべての缶ジュースの検出に0.1秒以下で処理が完了するという内容となっている。

現在のYOLO系モデルが使われるユースケースは防犯カメラでの人物検出、製造ラインの外観検査、自動運転の歩行者＆車両認識、医療画像のがん細胞検出、ドローン農業での作物モニタリングなど非常に幅広い。しかしフィジカルAIとしての必須要件であるエッジでのリアルタイム推論は、高速なハードウェアであるAxelera AIとYOLOの組み合わせが最適解だろう。

Intelが推進するOpenVINOはIntelのCPU、GPU、NPUを抽象化して画像認識を行うプラットフォームだが、性能の目安であるTOPSと消費電力の部分ではAxelera AIに圧倒的な優位性がある。IntelのソリューションはPCに組み込んでAI処理をPC側でスムーズに実行するというCPU内蔵のシステム構成を取るため、監視カメラなどのエッジで行うという実装には向いていないと言える。

また、YOLOの最新バージョンとAxelera AIのハードウェア、そしてVoyager SDKによってスムーズに検証から実装までが可能になったことは大きな前進と言えるだろう。フィジカルAIの実装に向けて、オランダの新興ベンダーが物体検知のスタンダードであるYOLOとのインテグレーションを進めていることはもっと知られるべきだろう。