本事例研究では、Rooflineが現代のエッジ向けシステムオンチップ（SoC）上で非同期の異種実行を可能にした手法を示す。当社の技術は、SoCのCPU・GPU・NPUハードウェアを連携させ、完全なAIモデルを効率的に実行する。これにより、エッジにおけるAI展開ソフトウェアで長年欠けていた要素を解き放ち、最適なデバイス上で大規模モデルをより効率的に実行することを実現した。

This case study showcases how Roofline and ARM enabled scalable, vector-length-agnostic ML execution on Arm CPUs by implementing data-tiled Scalable Vector Extension (SVE) support end-to-end in IREE, unlocking up to 100× speedups on real models and hardware.