一次情報で読む、いまのAI
← すべてのニュース

Nemotron 3.5 Lightning公開

目線

ローカルエージェント開発者は、RTX/DGX上で高速カスタムモデルを試せる。

対象

ローカルLLM・エージェント開発者

使える場面

  • 常時稼働エージェントの特化タスク実行
  • 自前データでのファインチューン試作
  • RTX PCやDGXでのプライベート推論

試すなら

Hugging Face等で重みを確認しローカル実行を試す

確認点

対応ハードウェアとVRAM要件を事前確認

背景

NVIDIAが8月にローカルAIとオープンソースコミュニティを推進する一環で、Nemotron 3ファミリーを拡充。

何が変わったか

  • Nemotron 3.5 Lightning(30B MoE)をオープンウェイトで公開
  • 同クラス比最大4x高速トークン生成、30%速い完了時間
  • NeMo Switchyardなどルーティングライブラリと連携
  • RTX PC、DGX Spark/Station、Jetsonなどでローカル実行可能

使える場面・影響

プライバシー重視の高ボリューム特化エージェントを既存NVIDIAハード上で構築しやすくなる。

試す前に確認

  • オープンウェイトのため商用カスタムはライセンス確認
  • 対応GPUと最適化状況を確認

一次ソース