Amazon Bedrock、OpenAI GPT-5.6 モデルのインド国内推論をサポート開始

Amazon Bedrock がインドで OpenAI の GPT-5.6 モデル（Terra と Luna）をサポートし、インド国内での地理的クロスリージョン推論が可能になりました。金融サービス、ヘルスケア、公共部門など、インド国内でのデータ処理要件がある場合でも、これらの OpenAI モデルを大規模に利用できます。Amazon Bedrock は、推論リクエストとデータをインド国内で処理します。

両モデルは 100 万トークンのコンテキストウィンドウをサポートし、テキストおよび画像を入力として受け付け、テキストを出力します。アプリケーションでは、単一のリクエストで長いドキュメントや大規模なコードベース、テキストと画像の混合ワークロードを処理できます。すべての処理はインド国内で行われ、国境を越えることはありません。

本記事では、ムンバイリージョンとハイデラバードリージョン間での地理的クロスリージョン推論の仕組みについて解説します。また、OpenAI Responses API、OpenAI Chat Completions API、Amazon Bedrock Converse API を使用して、Amazon Bedrock コンソールおよびコードから始め方をご紹介します。

インド国内の地理的クロスリージョン推論

クロスリージョン推論は、複数の AWS リージョンにわたって推論リクエストを自動的にルーティングする機能です。これにより、各リージョンごとの容量管理を手動で行う必要なく、スループットの向上を図ることができます。これは主に容量確保のための仕組みであり、特定の 1 つのリージョンの容量に縛られることなく、広範な計算資源プールからリソースを引き出すことができます。これによって、負荷がかかる際にもスループットを維持し、一貫したパフォーマンスを実現できます。特にトラフィックが集中するピーク時において、この機能は非常に重要です。

Amazon Bedrock のインド国内クロスリージョン推論機能により、リクエストはアジア太平洋（ムンバイ）リージョン (ap-south-1) やアジア太平洋（ハイデラバード）リージョン (ap-south-2) といったインド内のリージョン間のみでルーティングされます。これにより、データ処理をインド国内に留めながら需要に応じたスケーリングが可能になり、データ所在地要件にも対応できます。

リクエストはインドのいずれかのリージョンからプロファイルを通じて送信され、Amazon Bedrock が容量状況に応じて宛先のインド内リージョンへ転送します。各リージョンでのモデル利用可能状況については、最新の情報を Amazon Bedrock ユーザーガイド内の Regional availability by models をご確認ください。

クロスリージョン推論は「インフェレンスプロファイル」を通じて実現されます。モデルとしてプロファイル ID を指定することで、対象となるモデルと Amazon Bedrock がリクエストをルーティング可能な AWS リージョンが定義されます。インド国内の地理的制約を持つインフェレンスプロファイルを使用すれば、ルーティング範囲もインド内に限定されます。

利用可能なプロファイルは以下の 2 つです。

• in.openai.gpt-5.6-terra：GPT-5.6 Terra 用
• in.openai.gpt-5.6-luna：GPT-5.6 Luna 用

インフェレンスプロファイルを利用すると、リクエストを処理したバックエンドリージョンがどこであっても、課金とクォータ使用量はソース側のリージョンのアカウントに対して追跡されます。また、Amazon CloudWatch と AWS CloudTrail のログ記録もソース側リージョンのみで行われるため、監視は単一の場所で完結します。

Amazon Bedrock Mantle エンドポイントと Runtime エンドポイントの使い分け

新しいアプリケーションでは、bedrock-runtime エンドポイントの利用を推奨します。このエンドポイントは、Bedrock ネイティブの InvokeModel および Converse API、OpenAI 互換の Responses と Chat Completions API、そして Anthropic の Messages API をサポートしています。また、Guardrails、インテリジェントなプロンプトラウティング、そしてクロスリージョン推論といった Amazon Bedrock の主要機能を利用できるのもこのエンドポイントです。

データの所在

インドの地理プロファイルにより、推論処理はインド国内に限定されます。リクエストは ap-south-1 と ap-south-2 の 2 つのリージョン間のみでルーティングされ、入力プロンプトと出力結果もこれらのリージョン間で移動します。データは Amazon ネットワークを介して転送中に暗号化されます。

Amazon Bedrock はゼロ・データ・リテンション（ZDR）というセキュリティモデルを採用しています。これはデフォルト設定として、Bedrock がモデルへの入力やその出力を保存しないことを意味します。ただし、GPT-5.6 を含む一部のモデルでは、Amazon Bedrock の自動不正検出分類器によって不正と判定されたコンテンツが、オフラインでの不正検出のために保持されます。

詳細については、Amazon Bedrock ユーザーガイドの「Abuse detection」をご参照ください。

グローバルなリージョン間推論

Amazon Bedrock では、インドでもグローバルなクロスリージョン推論および「global.」プレフィックスを持つグローバル推論プロファイルを提供しています。これにより、最大限の容量を確保するために、サポート対象の商用 AWS リージョン worldwide へリクエストがルーティングされます。ユーザーは、モデル ID としてグローバルプロファイル ID を使用して、インドリージョンのエンドポイント（アジア太平洋 (ムンバイ) ap-south-1 またはアジア太平洋 (ハイデラバード) ap-south-2）にリクエストを送信します。Amazon Bedrock が自動的に最適な宛先リージョンを決定し、処理を行います。

グローバルなクロスリージョン推論は、OpenAI GPT-5.6 モデル（Sol、Terra、Luna など）をサポートしています。ただし、ローカルでのデータ処理が必要なワークロードの場合、推論を国内内に保持する必要があるため、「in.」プレフィックスを持つインド専用のプロファイルをご利用ください。

グローバルなクロスリージョン推論の詳細については、Amazon Bedrock における OpenAI GPT-5.6 モデルのクロスリージョン推論の紹介 をご覧ください。

Amazon Bedrock コンソールから GPT-5.6 モデルにアクセスする

Amazon Bedrock コンソールのテキストプレイグラウンドで、GPT-5.6 の動作を試すことができます。コード記述や SDK の設定は不要です。API 統合前に、プロンプトの送信や推論パラメータの調整、モデルバリアント間の切り替えを行って、各モデルの挙動を把握できます。

• モデルが利用可能なリージョン（例：アジア太平洋 (ムンバイ) ap-south-1）で Amazon Bedrock コンソール を開きます。

ナビゲーションペインのTestセクションで、Playgroundを選択します。

ページ中央にあるSelect modelをクリックしてください。

検索ボックスに「OpenAI GPT-5.6 Terra」と入力し、IN OpenAI GPT-5.6 Terraを選択してApplyボタンを押します。

プロンプトを入力後、Runをクリックするとレスポンスが生成されます。

図 1: Amazon Bedrock コンソールのプレイグラウンドで選択された OpenAI GPT-5.6 Terra モデル

OpenAI Responses API を使用して GPT-5.6 モデルを呼び出す

Amazon Bedrock 上の GPT-5.6 モデルは、OpenAI Responses API のフォーマットにネイティブ対応しています。すでに OpenAI モデルを呼び出しているアプリケーションであれば、既存の OpenAI SDK クライアントをインド地域の Mumbai または Hyderabad の Amazon Bedrock エンドポイントに向け、モデルパラメータとしてインドの地理的推論プロファイル ID を渡すだけで利用可能です。

認証には、標準的な AWS 資格情報または Amazon Bedrock API キーのいずれかを使用できます。API キーパスは OpenAI SDK と非常に相性が良く、ベアラートークンとして渡されます。本番環境では、aws-bedrock-token-generator パッケージを使用してプログラムで短期間の API キーを生成してください。このパッケージは既存の AWS 資格情報からベアラートークンを導出するため、静的なキーを保存する必要がありません。

以下の例では、アジア太平洋 (ムンバイ) のエンドポイント ap-south-1 とインドの地理的推論プロファイル ID を使用して、Amazon Bedrock 上で OpenAI GPT-5.6 Terra を呼び出す方法を示しています。

from aws_bedrock_token_generator import provide_token
from openai import OpenAI

# Point the OpenAI SDK at the Amazon Bedrock OpenAI-compatible
# endpoint in the Asia Pacific (Mumbai) Region.
client = OpenAI(
    base_url="https://bedrock-runtime.ap-south-1.amazonaws.com/openai/v1",
    api_key=provide_token(region="ap-south-1"),  # short-term Amazon Bedrock API key, valid up to 12 hours
)

# Geographic (India) inference profile ID for GPT-5.6 Terra.
model_id = "in.openai.gpt-5.6-terra"  # "in.openai.gpt-5.6-luna" for luna
response = client.responses.create(
    model=model_id,
    input="Extract the payment due date and total amount from the invoice text that follows, and return them as JSON. ",
    max_output_tokens=512,
)
print(response.output_text)

Responses API は単一の input フィールドを使用し、生成されたテキストを output_text として返します。出力制限は max_output_tokens で設定されます。同じクライアントは Chat Completions API でも動作するため、すでにこの形式を採用しているアプリケーションでもそのまま利用可能です。

推論深度の制御

推論の深さを制御するには、オプションのパラメータ reasoning を設定します。例えば reasoning={"effort": "low"} のように指定できます。

Amazon Bedrock 上の GPT-5.6 モデルでは、推論の努力レベルとして「none」「low」「medium」「high」の 4 つを選択できます。

xhigh、および max。詳細については、関連記事「Amazon Bedrock 上で OpenAI GPT-5.6 Sol、Terra、Luna の利用を開始する」をご覧ください。

Bedrock](https://aws.amazon.com/blogs/machine-learning/get-started-with-openai-gpt-5-6-sol-terra-and-luna-on-amazon-bedrock/)。パラメータを指定しない場合は、モデルのデフォルト値が使用されます。

response = client.responses.create(
    model="in.openai.gpt-5.6-terra",
    input="Extract the payment due date and total amount from the invoice text that follows, and return them as JSON. ",
    reasoning={"effort": "high"},  # none | low | medium | high | xhigh | max
    max_output_tokens=512,
)

サポートされているパラメータの完全なリストについては、Amazon Bedrock ユーザーガイドの OpenAI モデルドキュメント をご覧ください。

サーバーサイドの状態を利用した複数回の対話

Amazon Bedrock に対してレスポンスをサーバーサイドで保存させるには、store=True を設定します。その後、次のターンでは previous_response_id を参照して利用できます。この際、送信するのは新しいトーンのみであり、過去の会話履歴を再送する必要はありません。

first = client.responses.create(
    model="in.openai.gpt-5.6-terra",
    input="Remember this: my favorite number is 42. Reply with just 'stored'..",
    max_output_tokens=50,
    store=True,
)

second = client.responses.create(
    model="in.openai.gpt-5.6-terra",
    previous_response_id=first.id,  # the model recalls the earlier turn
    input="what is my favourite number?",
    max_output_tokens=50,
    store=True,
)

print(second.output_text)

previous_response_id を使用してレスポンスを連鎖させる場合、その元となるレスポンスは store=True で作成されたものでなければなりません。保存されていないレスポンスから連鎖させるとエラーが発生します。

ストリーミングレスポンス

ストリーミングを行うには stream=True を設定し、イベントを順次処理してください:

stream = client.responses.create(
    model="in.openai.gpt-5.6-terra",
    input="Draft a short status update for a delayed shipment, in a polite and direct tone.",
    max_output_tokens=512,
    stream=True,
)

for event in stream:
    if event.type == "response.output_text.delta":
        print(event.delta, end="")

Converse API を使用して GPT-5.6 モデルを呼び出す

AWS SDK と SigV4 認証を API キーよりも優先される場合は、Amazon Bedrock の Converse API を利用できます。この API は Amazon Bedrock 上の他のモデルと同様に、GPT-5.6 モデルに対して統一されたインターフェースを提供します。ストリーミング処理については ConverseStream が対応しています。

import boto3

# Standard AWS credentials (SigV4), no API key needed.
client = boto3.client("bedrock-runtime", region_name="ap-south-1")
model_id = "in.openai.gpt-5.6-terra"  # India Geo inference profile
response = client.converse(
    modelId=model_id,
    messages=[
        {
            "role": "user",
            "content": [{"text": "Classify this support ticket as billing, technical, or account: "}],
        }
    ],
    inferenceConfig={"maxTokens": 512},
)
print(response["output"]["message"]["content"]

プロンプトキャッシュ

プロンプトには、システム指示やナレッジベースの抜粋、あるいは少数ショット例など、長く安定した共通部分が含まれていることがよくあります。そのような場合、Amazon Bedrock 上の GPT-5.6 モデルはプロンプトキャッシングをサポートしています。キャッシュされた読み取りは、未キャッシュの入力トークンと比較して 90% の割引で課金されます。これは、多くのターンにわたって同じコンテキストを繰り返す Retrieval Augmented Generation (RAG) やエージェントワークロードにおいて、コスト削減効果がすぐに現れます。詳細については Amazon Bedrock プロンプトキャッシングのドキュメント をご覧ください。

インドの地理的推論プロファイルでも、プロンプトキャッシングは動作します。これにより、インドのデータ居住境界内でのコスト削減効果を維持できます。

プロンプトキャッシングには「明示モード」と「暗黙モード」の 2 つがあります。暗黙モードでは、Amazon Bedrock が自動的にキャッシュのブレークポイントを設定します。ただし、最小プレフィックス長は 1,024 トークンである必要があります。一方、明示モードでは、ユーザー自身がキャッシュ境界を指定して精密な制御が可能となり、キャッシュされたプレフィックスは最低でも 30 分間ウォーム状態（有効状態）で保持されます。

response = client.responses.create(
    model="in.openai.gpt-5.6-terra",
    prompt_cache_key="ticket-agent-ver123",  # same key across all requests
    input=[
        {
            "type": "message",
            "role": "developer",
            "content": [{
                "type": "input_text",
                "text": SYSTEM_INSTRUCTIONS,  # long, static: guidelines, KB excerpts (>= 1,024 tokens)
                "prompt_cache_breakpoint": {"mode": "explicit"},
            }],
        },
        {
            "type": "message",
            "role": "user",
            "content": [{
                "type": "input_text",
                "text": user_question,  # changes on every request
            }],
        },
    ],
    extra_body={"prompt_cache_options": {"mode": "explicit"}},
)

すべてのレスポンスには、キャッシュがどのように機能したかが usage.input_tokens_details に記載されています。

details = response.usage.input_tokens_details
print(f"cached: {details.cached_tokens}, written: {details.cache_write_tokens}")

初回呼び出し時には、プレフィックスが保存されるため cache_write_tokens に値が表示されます。その後の呼び出しでは、同じトークンが cached_tokens として返され、キャッシュ読み取り料率で課金されます。これらのカウントは追加ではなく input_tokens の一部に含まれるため、キャッシュされたトークンは一度だけカウントされ、課金されます。

インド地域間推論の IAM パーミッション

AWS Identity and Access Management (IAM) ロールが、インドの地理的推論プロファイルを通じて GPT-5.6 モデルを呼び出すには、3 つのリソースへのアクセス権限を付与する必要があります。対象となるリソースとは、インドの地理的推論プロファイルそのもの、ソースリージョンにあるファウンデーションモデル（FM）、そしてプロファイルにリストされている各宛先リージョン（ap-south-1 および ap-south-2）にあるファウンデーションモデルです。

権限付与には、AmazonBedrockLimitedAccess というマネージドポリシーを利用するか、独自にポリシーを作成して適用してください。

以下の例は、インドの地理的推論プロファイルを通じて GPT-5.6 Terra モデルの使用権限を付与するものです。ソースリージョンは ap-south-1 で、宛先リージョンは ap-south-1 と ap-south-2 です。

` の部分をあなたのアカウント ID に置き換えてください。また、ロールが両方のモデルを必要とする場合は、in.openai.gpt-5.6-luna` のリソースも複製してください。ハイデラバードからソースを取得する場合は、最初のステートメントで ap-south-2 の推論プロファイル ARN を使用します。

2 番目のステートメントにあるファウンデーションモデルのリソースは変更不要です。すでに両方のインドリージョンがリストされているためです。

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Sid": "GrantGeoCrisInferenceProfileAccess",
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel*"
            ],
            "Resource": [
                "arn:aws:bedrock:ap-south-1::inference-profile/in.openai.gpt-5.6-terra",
                "arn:aws:bedrock:ap-south-1::project/default"
            ]
        },
        {
            "Sid": "GrantGeoCrisModelAccess",
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel*"
            ],
            "Resource": [
                "arn:aws:bedrock:ap-south-1::foundation-model/openai.gpt-5.6-terra",
                "arn:aws:bedrock:ap-south-2::foundation-model/openai.gpt-5.6-terra"
            ],
            "Condition": {
                "StringEquals": {
                    "bedrock:InferenceProfileArn": "arn:aws:bedrock:ap-south-1::inference-profile/in.openai.gpt-5.6-terra"
                }
            }
        },
        {
            "Sid": "AllowBearerTokenAuth",
            "Effect": "Allow",
            "Action": ["bedrock:CallWithBearerToken"],
            "Resource": "*"
        }
    ]
}

最初のステートメントは、ソースリージョンから送信されたリクエストに対して、インドの地理的推論プロファイルへのアクセス権限を付与するものです。2 つ目のステートメントでは、そのプロファイルにリストされているすべての宛先リージョンおよびソースリージョン内のファウンデーションモデルへのアクセス権限が付与されます。このアクセス権限は、bedrock:InferenceProfileArn 条件を通じて、該当する 1 つのプロファイルに限定されます。

これらのポリシーは、リソース project/default に対して bedrock:CallWithBearerToken および bedrock:InvokeModel の権限を付与します。OpenAI の Responses API や Chat Completions API は、このリソースを使用して Amazon Bedrock API キーによる認証を行い、推論を実行します。

サービスコントロールポリシー (SCP)

組織でサービスコントロールポリシー（SCP）を使用して未使用のリージョンをブロックしている場合、リージョン固有の SCP 条件には、地理的推論プロファイルに記載されているすべての宛先リージョンへのアクセス許可を含める必要があります。