Amazon EC2 上で試作し、本番で Amazon SageMaker AI のエンドポイントへ移す
EC2 で試作するには、インスタンスの種類を選び、OS と推論サーバーを自分で構築する必要があります。そのため、Bedrock の API 呼び出しより試作の開始が遅れます。移行の形は正しくても、試作の段階が要件に合わない進め方です。
ある企業は、社内チャットの試作を素早く始めたいと考えています。本番では、利用量が増えたあとに、インスタンスの種類や台数を自分で調整できる基盤へ移したいと考えています。 この要件を満たす進め方は、次のうちどれですか。
試作から本番へ段階的に移す進め方を問う。
Amazon EC2 上で試作し、本番で Amazon SageMaker AI のエンドポイントへ移す
EC2 で試作するには、インスタンスの種類を選び、OS と推論サーバーを自分で構築する必要があります。そのため、Bedrock の API 呼び出しより試作の開始が遅れます。移行の形は正しくても、試作の段階が要件に合わない進め方です。
Amazon SageMaker AI のエンドポイントで試作し、本番で Amazon Bedrock の API へ移す
移す向きが逆で、本番の制御が残りません。Amazon Bedrock の基盤モデルを API で呼ぶ形では、インスタンスの種類や台数を利用者が選べません。Bedrock Marketplace のモデルは例外で、SageMaker AI のエンドポイントに配置され、インスタンスを選べます。ただし、この選択肢で移す先は基盤モデルを API で呼ぶ形です。
Amazon Bedrock で試作し、本番で Amazon SageMaker AI のエンドポイントへ移す
Amazon Bedrock でインフラを管理せずに試作し、本番の規模でインフラを細かく制御する必要が出たら SageMaker AI のエンドポイントへ移す進め方です。最初から全部を自前で構築する方法より、試作の速さと本番の制御を両立できます。
まとめて処理するバッチ変換 (Amazon SageMaker AI) で試作し、本番でエンドポイントへ移す
バッチ変換は、まとまったデータを一括で推論する機能です。対話の試作には合わず、試作の段階で即時の応答を確かめられません。移行先は正しくても、試作の方法が要件に合わない進め方です。
まず Amazon Bedrock で試作し、本番で規模と制御が必要になったら SageMaker AI のエンドポイントへ移す進め方が、この要件に合います。
・最初から全部を自前で構築 → 試作の速さを失う
・本番まで Bedrock の API だけ → インスタンスを選ぶ制御が残らない
・まとめて処理するバッチ変換 → 即時の応答に合わない