パフォーマンスダッシュボード

デバイスやシステムを横断したモデル性能の可視化を実現。自動提供される日々の更新で常に先を行く。
お問い合わせ

動作中

パフォーマンスダッシュボードの実演をご覧いただき、エッジAIデプロイメントツールチェーンのパフォーマンスと安定性に関する重要な洞察をどのように提供するかを体感してください。

主な特徴

透明性

モデルやデバイスを横断したパフォーマンス指標について完全な透明性を確保する。

安定性

モデルが常に実行され、性能要件を満たすことを保証する。

マルチデバイス

複数のデバイスでモデルを自動的にテストし比較します。

常に最新

夜間ビルドを活用し、新たなモデルを追加する。

仕組み

インタラクティブなユーザーインターフェースと高度なコマンドラインツールを切り替えながら、必要な洞察を得てください。
ドキュメントを表示
roofbench-v3 compile-and-run
 
--config
   
benchmarks/torch/HuggingFaceTB/SmolLM2
 
--output-dir
   
roof_bench_smollm2_run_single
 
--filter-pattern
   
"360M"

よくある質問

なぜパフォーマンスダッシュボードを気にかける必要があるのか?

安定性が鍵です。コンピューティングハードウェアの普及を目指すなら、信頼性の高いモデルカバレッジとパフォーマンスを提供する必要があります。革新的なエッジAI製品を市場に投入したいなら、対象デバイス上でアプリケーションが動作するか、またその速度を把握しなければなりません。Rooflineのパフォーマンスダッシュボードは、関連する全モデルとデバイスにわたる透明性のある指標を提供します。

毎晩の更新と継続的なモデルの追加により、常に最新の結果で作業できます。

ダッシュボードを通じて追跡できるパフォーマンス指標はどれですか?

特定のモデルについては、レイテンシ、スループット(例:トークン毎秒)、メモリ使用量を主要指標として追跡します。特定のハードウェアについては、広範なモデル群におけるモデルカバレッジに加え、前述の指標を追跡します。

数値はどの程度最新ですか?

パフォーマンスダッシュボードは毎日更新されます。当社は、デバイスを横断する数百のモデルに対して毎晩ベンチマーク実行を行う大規模なCI/CDインフラを構築しました。このデータはその後、パフォーマンスダッシュボードに反映されます。

ダッシュボードにアクセスするにはどうすればよいですか?

お問い合わせフォームよりご連絡ください。すぐに折り返しご連絡いたします。