2026.10.14 WED02:05 JSTLiquid AI
Liquid AIが小型推論MoE公開
今日試せるオープンウェイト公開
端末内で高速に動く思考型AIモデルが公開され、誰でもダウンロードして自分のPCで動かせます。
- 総24B・活性2Bのオンデバイス向け推論モデルが公開された
- 思考過程を出力し、ツール呼び出しやエージェント実行に対応する
- 文脈長は131Kトークンへ拡張され、重みがHFで配布されている
目線
端末上で通信を介さずツール実行や複数ステップのエージェント処理を低遅延で動かしたい開発者の選択肢になる。
対象
ローカルLLMや端末内エージェントを構築する開発者
使える場面
- llama.cppやMLX経由でローカルPC上にエージェントを常駐実行する
- Hermes Agentなどのフレームワークと接続してツール呼び出しを自動化する
試すなら
Hugging Faceからモデルをダウンロードし、transformersや対応バックエンドで実行確認を行う
確認点
知識重視ベンチマークや大規模コーディングではより大型のモデルに劣るため検索やRAGの併用が推奨されている
背景
オンデバイス環境でプライベートかつ高速に自律エージェントを常時稼働させる目的で開発された。
何が変わったか
- 総パラメータ24Bのうちトークンあたり活性化するパラメータを2Bに抑えたMoE構成を採用
- コンテキスト長を従来の32Kから131Kトークンに拡張し、語彙数を128Kに拡大
- 必ず思考を行ってから回答する推論特化型とし、事前学習を約33Tトークン規模へ拡大
- llama.cpp、MLX、vLLM、SGLang、ONNXへの対応を初日から提供
使える場面・影響
活性化パラメータが2Bと小さいため、M5 Maxで毎秒184トークンなどの高速デコードが可能となり、ローカル推論のコストが抑えられる。
試す前に確認
- transformers 5.0.0以上に対応
- Hugging Face上でBaseモデルと指示追従モデルの両方が提供中
一次ソース
- Hugging Face Bloghuggingface.co