Amazon Bedrock、インド国内での OpenAI GPT-5.6 モデル利用を開始

Amazon Bedrock で、インド国内での推論に対応する OpenAI の GPT-5.6 モデル「Terra」と「Luna」の利用が可能になりました。これらはムンバイとハイデラバードの 2 つのリージョン間を跨いで推論を実行します。

金融サービス、ヘルスケア、公共部門など、インド国内でデータの処理が必要なケースでも、これらの OpenAI モデルを大規模に活用できるようになります。Amazon Bedrock では、推論リクエストとデータがすべてインド国内で処理されます。

両モデルは 100 万トークンのコンテキストウィンドウをサポートし、テキストと画像を入力として受け付け、テキストを出力します。これにより、アプリケーションでは長いドキュメントや大規模なコードベース、テキストと画像を組み合わせたワークロードを単一のリクエストで処理することが可能になります。すべての処理はインド国内完結で行われます。

本稿では、ムンバイおよびハイデラバードの各リージョン間での地理的跨域推論の仕組みについて解説します。また、OpenAI Responses API、OpenAI Chat Completions API、Amazon Bedrock Converse API を使用して、Amazon Bedrock コンソールとコードからどのように利用を開始するかについても紹介します。

インド国内の地理的跨域推論

跨域推論は、複数の AWS リージョンにわたって推論リクエストを自動的にルーティングする機能です。これにより、各リージョンごとの容量管理を手動で行う必要がなくなり、スループットの向上を図ることができます。これは主に容量確保のための仕組みです。

特定の 1 つのリージョンに縛られることなく、広範な計算資源プールからリソースを動的に引き出すことで、負荷の高い状況でもスループットと安定したパフォーマンスを維持できます。特にトラフィックが集中するピーク時において、この機能は極めて重要です。

インドの地理的クロスリージョン推論機能により、Amazon Bedrock はリクエストをアジア太平洋（ムンバイ）リージョン (ap-south-1) やアジア太平洋（ハイデラバード）リージョン (ap-south-2) といったインド内のリージョン間のみでルーティングします。これにより、データ処理をインド国内に保持したまま需要に応じたスケーリングが可能となり、データ所在地要件にも対応できます。

リクエストはインドのリージョンからプロファイルとして呼び出され、Amazon Bedrock が容量に応じて宛先のインド内リージョンへ転送します。各リージョンでのモデル利用状況については、最新の情報を Amazon Bedrock ユーザーガイドの「モデル別の地域別可用性」をご確認ください。

クロスリージョン推論は、推論プロファイルを通じて実現されます。モデルとしてプロファイル ID を呼び出すと、対象となるモデルと Amazon Bedrock がリクエストをルーティング可能な AWS リージョンが定義されます。インドの地理的推論プロファイルを使用することで、ルーティング範囲をインド国内に限定できます。

利用可能なプロファイルは以下の 2 つです：

• GPT-5.6 Terra 用の in.openai.gpt-5.6-terra
• GPT-5.6 Luna 用の in.openai.gpt-5.6-luna

推論プロファイルを使用すると、リクエストを処理したバックエンドリージョンがどこであっても、請求とクォータの使用量はソースリージョンのアカウントに対して追跡されます。また、Amazon CloudWatch と AWS CloudTrail はソースリージョンのみでログエントリを記録するため、監視は単一の場所で完結します。

Amazon Bedrock の Mantle エンドポイントと Runtime エンドポイントの使い分け

新規アプリケーションでは、bedrock-runtime エンドポイントの利用を推奨します。このエンドポイントは、Bedrock ネイティブの InvokeModel および Converse API、OpenAI 互換の Responses と Chat Completions API、さらに Anthropic の Messages API をサポートしています。また、Amazon Bedrock の機能である Guardrails、インテリジェント・プロンプトラウティング、および クロスリージョン推論 もここで利用可能です。

データの所在

インドの地理プロファイルでは、推論処理はインド国内に限定されます。リクエストは ap-south-1 と ap-south-2 の 2 つのリージョン間のみでルーティングされ、入力プロンプトと出力結果もこれらのリージョン間で移動します。データは Amazon ネットワークを介して転送中に暗号化されます。

Amazon Bedrock はゼロデータ保持（ZDR）というセキュリティモデルを採用しています。これはデフォルト設定として、Bedrock がモデルへの入力やその出力を保存しないことを意味します。ただし、GPT-5.6 などの特定のモデルでは、Amazon Bedrock の自動悪意検出分類器によって不適切と判定されたコンテンツが、オフラインでの悪意検出のために保持されます。

詳細については、Amazon Bedrock ユーザーガイドの「Abuse detection」をご参照ください。

グローバルなリージョン間推論

Amazon Bedrock は、インドにおいてもグローバルなクロスリージョン推論および「global.」プレフィックスを持つグローバル推論プロファイルを提供しています。これらは、最大限の容量を確保するために世界中の対応する商用 AWS リージョンへリクエストをルーティングします。ユーザーは、モデル ID としてグローバルプロファイル ID を使用し、インドリージョンのエンドポイント（アジア太平洋（ムンバイ）ap-south-1 またはアジア太平洋（ハイデラバード）ap-south-2）にリクエストを送信します。Amazon Bedrock が自動的に最適な宛先リージョンを選択して処理を行います。

グローバルなクロスリージョン推論では、OpenAI の GPT-5.6 モデル（Sol、Terra、Luna など）がサポートされています。ただし、ローカルデータの処理要件があるワークロードの場合は、推論を国内内に保持する「in.」プレフィックスを持つインド用プロファイルをご利用ください。

グローバルなクロスリージョン推論の詳細については、『Amazon Bedrock における OpenAI GPT-5.6 モデルのクロスリージョン推論の紹介』をご参照ください（https://aws.amazon.com/blogs/machine-learning/introduce-cross-region-inference-for-openai-gpt-5-6-models-on-amazon-bedrock/）。

Amazon Bedrock コンソールから GPT-5.6 モデルにアクセスする

Amazon Bedrock コンソールのテキストプレイグラウンドで、GPT-5.6 をすぐに試すことができます。コード記述や SDK のセットアップは不要です。API 統合前に、プロンプトの送信や推論パラメータの調整、各種バリアント間の切り替えを行い、各モデルの挙動を把握できます。

• モデルが利用可能なリージョン（例：アジア太平洋（ムンバイ）ap-south-1）で Amazon Bedrock コンソール を開きます。

ナビゲーションペインのTestセクションで、Playgroundを選択します。

ページ中央にあるSelect modelをクリックしてください。

検索ボックスに「OpenAI GPT-5.6 Terra」と入力し、IN OpenAI GPT-5.6 Terraを選択してApplyボタンを押します。

プロンプトを入力後、Runをクリックするとレスポンスが生成されます。

図 1: Amazon Bedrock コンソールのプレイグラウンドで選択された OpenAI GPT-5.6 Terra モデル

OpenAI Responses API を使用して GPT-5.6 モデルを呼び出す

Amazon Bedrock 上の GPT-5.6 モデルは、OpenAI Responses API のフォーマットをネイティブでサポートしています。すでに OpenAI モデルを呼び出しているアプリケーションをお持ちの場合は、既存の OpenAI SDK クライアントをインド地域のムンバイまたはハイデラバードにある Amazon Bedrock エンドポイントに指し示すだけで構いません。その際、モデルパラメータとしてインドの地理的推論プロファイル ID を渡してください。

認証については、Amazon Bedrock は標準的な AWS 資格情報または Amazon Bedrock API キーのいずれかを受け入れます。API キーパスは OpenAI SDK と非常に相性が良く、ベアラートークンとして渡されます。本番環境では、aws-bedrock-token-generator パッケージを使用してプログラムで短期間の API キーを生成してください。このパッケージは既存の AWS 資格情報からベアラートークンを導出するため、静的なキーを保存する必要はありません。

以下の例では、アジア太平洋（ムンバイ）のエンドポイント ap-south-1 とインド地域の推論プロファイル ID を使用して、Amazon Bedrock 上で OpenAI の GPT-5.6 Terra を呼び出します。

from aws_bedrock_token_generator import provide_token
from openai import OpenAI

# Point the OpenAI SDK at the Amazon Bedrock OpenAI-compatible
# endpoint in the Asia Pacific (Mumbai) Region.
client = OpenAI(
    base_url="https://bedrock-runtime.ap-south-1.amazonaws.com/openai/v1",
    api_key=provide_token(region="ap-south-1"),  # short-term Amazon Bedrock API key, valid up to 12 hours
)

# Geographic (India) inference profile ID for GPT-5.6 Terra.
model_id = "in.openai.gpt-5.6-terra"  # "in.openai.gpt-5.6-luna" for luna
response = client.responses.create(
    model=model_id,
    input="Extract the payment due date and total amount from the invoice text that follows, and return them as JSON. ",
    max_output_tokens=512,
)
print(response.output_text)

Responses API は単一の input フィールドを使用し、生成されたテキストを output_text として返します。出力制限は max_output_tokens で設定されます。同じクライアントは、すでにこの形式を採用しているアプリケーション向けに Chat Completions API でも利用可能です。

推論深度の制御

推論の深さを制御するには、オプションのパラメータ reasoning を設定します。例えば reasoning={"effort": "low"} のように指定できます。

Amazon Bedrock 上の GPT-5.6 モデルでは、推論の努力レベルとして「none」「low」「medium」「high」の 4 つがサポートされています。

xhigh、および max。詳細は、関連記事「Amazon で OpenAI GPT-5.6 Sol、Terra、Luna の利用を開始する」をご覧ください。

Bedrock](https://aws.amazon.com/blogs/machine-learning/get-started-with-openai-gpt-5-6-sol-terra-and-luna-on-amazon-bedrock/)。パラメータを指定しない場合は、モデルのデフォルト値が使用されます。

response = client.responses.create(
    model="in.openai.gpt-5.6-terra",
    input="Extract the payment due date and total amount from the invoice text that follows, and return them as JSON. ",
    reasoning={"effort": "high"},  # none | low | medium | high | xhigh | max
    max_output_tokens=512,
)

サポートされているパラメータの全一覧については、Amazon Bedrock ユーザーガイド内の OpenAI モデルドキュメント をご覧ください。

サーバーサイドの状態を利用した複数回の会話

Amazon Bedrock でサーバーサイドにレスポンスを保存する場合は、store=True を設定します。次に会話を行う際は、previous_response_id を指定して保存されたレスポンスを参照してください。送信するのは新しいターンのみで、過去の会話履歴を再送する必要はありません。

first = client.responses.create(
    model="in.openai.gpt-5.6-terra",
    input="Remember this: my favorite number is 42. Reply with just 'stored'..",
    max_output_tokens=50,
    store=True,
)

second = client.responses.create(
    model="in.openai.gpt-5.6-terra",
    previous_response_id=first.id,  # the model recalls the earlier turn
    input="what is my favourite number?",
    max_output_tokens=50,
    store=True,
)

print(second.output_text)

もし previous_response_id を使用してレスポンスを連鎖させる場合、その元となるレスポンスは store=True で作成されたものでなければなりません。保存されていないレスポンスから連鎖させるとエラーが発生します。

ストリーミングレスポンス

ストリーミングを利用するには、stream=True を設定し、イベントを順次処理します:

stream = client.responses.create(
    model="in.openai.gpt-5.6-terra",
    input="Draft a short status update for a delayed shipment, in a polite and direct tone.",
    max_output_tokens=512,
    stream=True,
)

for event in stream:
    if event.type == "response.output_text.delta":
        print(event.delta, end="")

Converse API を使用して GPT-5.6 モデルを呼び出す

AWS SDK と SigV4 認証を API キーよりも優先される場合は、Amazon Bedrock の Converse API が GPT-5.6 モデルをサポートしており、Bedrock 上の他のモデルと同様の統一されたインターフェースを提供します。ストリーミング処理には ConverseStream を使用してください。

import boto3

# Standard AWS credentials (SigV4), no API key needed.
client = boto3.client("bedrock-runtime", region_name="ap-south-1")
model_id = "in.openai.gpt-5.6-terra"  # India Geo inference profile
response = client.converse(
    modelId=model_id,
    messages=[
        {
            "role": "user",
            "content": [{"text": "Classify this support ticket as billing, technical, or account: "}],
        }
    ],
    inferenceConfig={"maxTokens": 512},
)
print(response["output"]["message"]["content"]

プロンプトキャッシング

プロンプトには、システム指示や知識ベースの抜粋、あるいは少数ショット例など、長く安定したプレフィックスが含まれることがよくあります。そのような場合、Amazon Bedrock 上の GPT-5.6 モデルはプロンプトキャッシングをサポートしています。キャッシュされた読み取りは、未キャッシュの入力トークンと比較して 90% の割引で課金されます。これは、複数のターンにわたって同じコンテキストを繰り返す RAG（検索拡張生成）やエージェントワークロードにおいて、コスト削減効果が大きく現れます。

詳細については、Amazon Bedrock プロンプトキャッシングのドキュメントをご覧ください。

インドの地理的推論プロファイルでは、プロンプトキャッシングが利用可能です。これにより、インドのデータ居住境界内でのコスト削減を維持できます。

プロンプトキャッシングには「明示型」と「暗黙型」の 2 つのモードがあります。暗黙型の場合、Amazon Bedrock が自動的にキャッシュのブレイクポイントを設定します。ただし、最小プレフィックス長は 1,024 トークンである必要があります。一方、明示型ではユーザー自身がキャッシュの境界を指定できるため、より精密な制御が可能です。この場合、キャッシュされたプレフィックスは最低でも 30 分間ウォーム状態（有効状態）で保持されます。

response = client.responses.create(
    model="in.openai.gpt-5.6-terra",
    prompt_cache_key="ticket-agent-ver123",  # same key across all requests
    input=[
        {
            "type": "message",
            "role": "developer",
            "content": [{
                "type": "input_text",
                "text": SYSTEM_INSTRUCTIONS,  # long, static: guidelines, KB excerpts (>= 1,024 tokens)
                "prompt_cache_breakpoint": {"mode": "explicit"},
            }],
        },
        {
            "type": "message",
            "role": "user",
            "content": [{
                "type": "input_text",
                "text": user_question,  # changes on every request
            }],
        },
    ],
    extra_body={"prompt_cache_options": {"mode": "explicit"}},
)

すべてのレスポンスには、キャッシングがどのように機能したかが usage.input_tokens_details に記載されています。

details = response.usage.input_tokens_details
print(f"cached: {details.cached_tokens}, written: {details.cache_write_tokens}")

最初の呼び出しでは、プレフィックスが保存されるため cache_write_tokens に値が表示されます。その後の呼び出しでは、同じトークンが cached_tokens として返され、キャッシュ読み取り料率で課金されます。これらのカウントは追加ではなく input_tokens の一部に含まれるため、キャッシュされたトークンは一度だけカウントされ、課金されます。

インドにおける地理的クロスリージョン推論の IAM パーミッション

AWS Identity and Access Management (IAM) ロールが、インドの地理的推論プロファイルを通じて GPT-5.6 モデルを呼び出すためには、3 つのリソースへのアクセス権限を付与する必要があります。具体的には、対象となるインドの地理的推論プロファイル自体、ソースリージョンにあるファウンデーションモデル (FM)、そしてプロファイルにリストされている各宛先リージョン（ap-south-1 および ap-south-2）内のファウンデーションモデルです。

これらの権限付与には、AmazonBedrockLimitedAccess というマネージドポリシーを利用するか、独自にポリシーを作成して適用してください。

以下の例は、インドの地理的推論プロファイルを通じて GPT-5.6 Terra モデルの使用権限を付与するものです。ソースリージョンは ap-south-1 で、宛先リージョンは ap-south-1 と ap-south-2 です。

` の部分をあなたのアカウント ID に置き換えてください。また、ロールが両方のモデルを必要とする場合は、in.openai.gpt-5.6-luna` に対応するリソースを複製してください。ハイデラバードからソースを取得する場合は、最初のステートメントで ap-south-2 の推論プロファイル ARN を使用します。

2 つ目のステートメントにある基盤モデルのリソースは変更不要です。これらはすでに両方のインドリージョンをリストしているためです。

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Sid": "GrantGeoCrisInferenceProfileAccess",
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel*"
            ],
            "Resource": [
                "arn:aws:bedrock:ap-south-1::inference-profile/in.openai.gpt-5.6-terra",
                "arn:aws:bedrock:ap-south-1::project/default"
            ]
        },
        {
            "Sid": "GrantGeoCrisModelAccess",
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel*"
            ],
            "Resource": [
                "arn:aws:bedrock:ap-south-1::foundation-model/openai.gpt-5.6-terra",
                "arn:aws:bedrock:ap-south-2::foundation-model/openai.gpt-5.6-terra"
            ],
            "Condition": {
                "StringEquals": {
                    "bedrock:InferenceProfileArn": "arn:aws:bedrock:ap-south-1::inference-profile/in.openai.gpt-5.6-terra"
                }
            }
        },
        {
            "Sid": "AllowBearerTokenAuth",
            "Effect": "Allow",
            "Action": ["bedrock:CallWithBearerToken"],
            "Resource": "*"
        }
    ]
}

最初のステートメントは、ソースリージョンから送信されたリクエストに対して、インドの地理的推論プロファイルへのアクセス権限を付与します。2 つ目のステートメントは、そのプロファイルにリストされているすべての宛先リージョンおよびソースリージョンにおけるファウンデーションモデルへのアクセス権限を付与するものです。このアクセス権限は、bedrock:InferenceProfileArn 条件を通じて、該当する 1 つのプロファイルに限定されます。

これらのポリシーは、リソース project/default に対して bedrock:CallWithBearerToken および bedrock:InvokeModel の権限を付与します。OpenAI の Responses API や Chat Completions API は、このリソースを利用して Amazon Bedrock API キーで認証を行い、推論を実行します。

サービスコントロールポリシー (SCP)

もし御社が、未使用のサービスに対するブロックを目的とした Service Control Policies を利用している場合、