一次情報で読む、いまのAI
← すべてのニュース

SageMaker CDK更新時の拡縮競合を解消

今日試せるサンプルコード公開中

AIを動かすサーバーの性能変更と自動増減の設定変更を、手作業を挟まずに一度で安全に反映できます。

目線

SageMakerエンドポイントをIaC管理しているチームは、デプロイ破損リスクなしにインスタンス更新を自動化できる。

対象

SageMaker推論エンドポイントをAWS CDKで運用・管理するエンジニア

使える場面

  • エンドポイントのインスタンスタイプ変更とオートスケーリング設定の同時デプロイ
  • CloudFormationのロールバック失敗(UPDATE_ROLLBACK_FAILED)の防止

試すなら

GitHubのsample-sagemaker-endpoint-autoscalingリポジトリを確認する

確認点

スタック内に複数のLambda関数とStep Functionsが自動生成される構成となる

背景

SageMaker AIエンドポイントの更新時、Application Auto Scalingターゲットが登録されたままだとCloudFormationやCDKのデプロイがエラーで停止する制約があった。

何が変わったか

  • カスタムリソースによりエンドポイント更新前にスケーラブルターゲットを自動で登録解除
  • エンドポイント更新完了(InService状態)を待機してターゲットを自動再登録しポリシーを適用
  • 設定ハッシュ(ConfigHash)を用いて設定変更時のみ一連のオーケストレーションを再実行

使える場面・影響

手動でCLIから登録解除したり、更新後にスケーリング設定が外れたまま稼働したりする運用ミスを排除できる。

試す前に確認

  • Python 3.12以上、AWS CDK v2、uvが必要

一次ソース