2026.08.24 MON23:59 JST
ローカルLLM部下でトークン41%削減
- クラウドAIを上司役、ローカルLLMを部下役に構成
- 親の非キャッシュ入出力トークンを41.3%削減
- 品質同等だが実装時間は約3.65倍
目線
個人のエージェント開発でクラウド利用枠を抑えたい人が、委譲範囲と受け入れ条件の設計を試す参考になる。
対象
ローカルLLMやマルチエージェント利用者
使える場面
- コーディングタスクをローカルへ委譲
- トークン消費と所要時間の比較検証
試すなら
公開リポジトリの課題で条件を揃えて再現する
確認点
1回の成功例でばらつきが大きく、品質影響は限定条件下
背景
ChatGPT Pro枠を使い切った経験から、トークン節約とローカルLLM活用を本格検討。DGX Spark上のQwen3.8-27B-NVFP4を使用。
何が変わったか
- GPT Solを監督・検収役、Qwenを実装役にしたマルチエージェント構成を試行
- 作業範囲を小さく切り、変更可能ファイルと受け入れ条件を事前指定
- 同じミッション管理画面課題で直接実装と委譲を比較
- 親トークン41.3%減（27703→16249）、子実装時間540.8秒（3.65倍）
使える場面・影響
完成品質を保ちつつクラウド側トークンを削減できる可能性を示した。組織設計に近い委譲ルールが鍵。
試す前に確認
- ばらつきが大きく中央値比較ではない点
- ローカル側の電力・時間コスト
- 使用ツールxangiと独自バックエンド
一次ソース
- はてなブログ記事karaage.hatenadiary.jp