一次情報で読む、いまのAI
← すべてのニュース

Runway対話動画の推論最適化

条件付き論文・技術解説の公開

画像1枚からリアルタイムに話すAIキャラクターを、4基のGPUで遅延なく動かす技術を公表。

目線

対話型リアルタイムAI動画のインフラ構築において、4GPU構成でのコスト効率や低遅延化の基準を示す。

対象

リアルタイムAIアバター開発者、動画推論インフラ構築担当者

使える場面

  • 対話型AIアバターの推論パイプライン設計
  • 動画拡散モデルのGPUマルチ配信最適化

試すなら

公式リサーチ論文で通信融合やキャッシュ管理の手法を確認する

確認点

一般的なRunway利用画面上の新機能ではなく、Serving基盤に関する技術報告

背景

570億パラメーターの対話型動画拡散トランスフォーマー「Runway Characters」は、1ユーザー単一セッション(バッチサイズ1)で24fps(166.7ms以内のフレーム生成)の継続的な即時応答が求められる。

何が変わったか

  • RoPEとFP8量子化をフレーム書き込み時に1度だけ適用するリングバッファ形式のキャッシュ管理に変更
  • テンソル並列のall-reduce通信をFP8行列演算(GEMM)と融合し、通信オーバーヘッドを54〜68%削減
  • デコーダー処理を専用GPUへ分離し、拡散プロセスの待ち時間を解消

使える場面・影響

従来は8基のH100が必要だった1セッション分のリアルタイム処理が、4基のH100で24.5fps以上を維持して運用可能になる。

試す前に確認

  • セッション単体の計算要件は4基のH100または3基のB200

一次ソース