ヘンリー・シーン・ワンがAmazon SageMaker AIを用いたリアルタイム歯科画像検証を実現
Henry Schein One は Amazon SageMaker AI を活用し、歯科用 X 線画像の品質を撮影直後にリアルタイムで検証するシステム「Image Verify」を構築し、保険請求の拒否率低下と臨床ワークフローの効率化を実現した。
キーポイント
リアルタイム品質検証による業務改善
従来の事後確認から撮影直後のリアルタイム検証へ移行し、画像の不備（ぼやけ、位置ずれなど）を即座に検知することで、患者の再受診や保険請求拒否を防いでいる。
AWS 上での大規模展開と要件達成
3 秒以内の応答速度、高精度な多モデル評価、数万箇所の同時接続対応、コスト効率化、グローバル展開という 5 つの厳しい要件を AWS で満たし、10,000 箇所以上で稼働している。
膨大な処理実績とスケーラビリティ
システムは既に 1,100 万枚以上の X 線を処理しており、週に 150 万件のペースで増加中であり、将来的には全世界 40,000 箇所の展開を目指している。
影響分析・編集コメントを表示
影響分析
この事例は、医療分野における AI の実装において「スピード」と「精度」の両立がいかに重要かを浮き彫りにしており、単なる技術デモではなく、実際のビジネス成果（請求拒否率低下）に直結する成功例として業界標準となる可能性があります。また、AWS 上で大規模かつ低遅延な推論基盤を構築・運用できる実証事例は、他の医療機関や SaaS プロバイダーにとって重要なロールモデルとなります。
編集コメント
医療現場のワークフローに AI を組み込む際、技術的な性能だけでなく「3 秒以内」といった具体的な時間制約や、信頼性を損なう誤検知への対策が成否を分ける重要な要素であることがよくわかります。
歯科において、画像の品質は請求が承認されるか拒否されるかを決定します。保険請求の最大 20% が当初に拒否されており、その主な原因の一つとして画像の欠落や低品質が挙げられます。しかし、品質評価は従来、事後に行われる手作業のプロセスでした。臨床医は撮影から数時間後あるいは数日後に X レイをレビューし、請求が拒否された場合や治療計画が進められない場合にのみ問題を発見します。画像がぼやけている、位置がずれている、または不完全である場合、患者は再撮影のために再度来院する必要があり、関係者全員にとってコストの増加、遅延、そして不満が生じます。根本的な問題はタイミングにあります：品質に関するフィードバックは、患者が去り、臨床的瞬間が過ぎた後にようやく届くのです。
本記事では、Henry Schein One がどのようにしてこのギャップを埋めたかを説明します。同社は Amazon SageMaker AI 上で AI を活用した品質検証システム「Image Verify」を構築し、歯科用 X レイの品質を撮影時点、リアルタイムで、数千か所の拠点において評価する仕組みを実現しました。このシステムは概念から数ヶ月以内に 10,000 か所以上のアクティブな拠点到達を果たし、すでに 1,100 万枚を超える X レイを処理しており、週あたり 150 万枚のペースで増加しています。Henry Schein One は現在、4 つの地域にまたがる全球規模で 40,000 か所の拠点到達を目指してスケールアップを進めています。
チャンレンジ：スケールにおけるリアルタイム画像品質
Henry Schein One の既存の画像検証ソリューションは異なるクラウドプラットフォーム上で稼働していましたが、滑らかな臨床ワークフローに必要なレイテンシやコスト効率を提供できませんでした。AWS 上での再構築は単なる移行ではありませんでした。それは、5 つの同時要件を満たすシステムを設計することを意味しました。そのいずれか一つでも欠ければ、秒数が重要であり信頼が徐々に築かれる必要がある臨床環境において、そのソリューションは使用不可能なものとなります。
- レイテンシ – 臨床医は待ちません。品質評価は臨床ワークフローに自然に組み込まれるよう、3 秒未満で返答する必要があります。
- 精度 – 複数の機械学習 (ML) モデルが、鮮明さ、アライメント、完全性など異なる品質次元を評価しなければなりませんが、臨床医の信頼を損なう偽陽性は発生してはいけません。
- スケール – システムは同時に数万か所に対応し、日次処理量は数十万件に達する必要があります。
- コスト効率 – このスケールでの GPU 推論は、慎重に最適化されない場合、費用が高額すぎて実行不可能になる可能性があります。
- グローバル展開 – ヘルスケアは地域密着型ですが、プラットフォームは一貫したパフォーマンスで複数のリージョンに展開されなければなりません。
Henry Schein One の Image Verify
Henry Schein One は、Dentrix や Dentrix Ascend といったプラクティス管理プラットフォームを通じて、世界中の歯科診療所をサポートしています。これらのプラットフォームは数万人の臨床医に利用されています。同社の Platform Services チームが特定した、具体的かつ高コストな課題とは、歯科保険請求の最大 20% が初回で却下されるという点であり、その主な原因の一つとして画像の欠落や低品質が挙げられています。
Image Verify は、プラクティス管理ワークフローにネイティブに組み込まれた、AI を活用した品質評価ソリューションです。技師が X 線写真を撮影すると、Image Verify が即座にそれを評価し、1 から 5 のスケールで品質スコアを返します。画像のスコアが低い場合、患者がその場にいる間に再撮影が行われるため、再受診の必要がなくなります。
この製品は 2025 年秋の概念段階から、数ヶ月という短期間で本番環境へ移行しました。ローンチから数週間後には 250 の診療所で稼働し始めました。2026 年 4 月末までにはその数は 1 万件を超え、43 倍の増加となりました。処理された X 線写真は 900 万枚以上となり、週次処理量は平均 150 万枚でさらに増加傾向にあります。
Image Verify は診断機能ではなく品質保証ソリューションです。病変を特定するものではなく、「この画像は臨床使用に十分か」という一つの問いに答えるものです。この明確な区別により、チームは臨床 AI に伴う規制制約を受けずにイテレーション（改善・改良）を進めることができました。
診療所にとって、その影響は即座に現れます。患者からの再連絡が減り、保険請求の質が高まり、新技術者向けのトレーニングが改善され、ゲーム化要素によって技術者のエンゲージメント自体を促進します。
"Image Verify は第 3 四半期の終わりに単なるアイデアでした。6 ヶ月で創出・洗練され、現在は大規模に展開されています。設計とワークフローにより、導入は迅速かつ直感的で、スケーラブルです。"
— トロイ・ミラー氏（トロイ・ミラー）、Henry Schein One 副社長（アーキテクチャ）
アーキテクチャ：AWS と Henry Schein One がどのようにソリューションを構築したか
Henry Schein One は、Image Verify を AWS 上で最初から構築し、大規模な機械学習推論には Amazon SageMaker AI を活用しました。アプリケーション層は Amazon Elastic Kubernetes Service (Amazon EKS) で動作しており、診療所管理アプリケーションからのリクエストを SageMaker AI の推論エンドポイントにオーケストレーションし、品質スコアを臨床医へ返却します。
アーキテクチャ図：
推論パイプライン
歯科診療所で画像がキャプチャされると、SageMaker AI でホストされたマルチモデル機械学習推論パイプラインを流れます。このパイプラインは順次段階で動作します：
- クラス分類 – 最初の段階では、画像の種類（ビトウィング、パノラマ、または根尖部など）を特定し、適切な品質評価モデルへルーティングします。
- 品質評価 – 専門的なモデルが、特定された画像タイプに対して鮮明さ、アライメント、被写界深度、完全性を評価します。
- スコア集約 – 各品質モデルからの結果は統合され、診療所管理アプリケーションに返される単一の 1 から 5 の品質スコアとなります。
画像キャプチャーから画面に表示される品質スコアまでの一連の往復には、中央値で 1.4 秒、P90 で 2.2 秒を要します。本システムは数百万回の推論において 0.01% のエラー率を維持しています。
以下のアーキテクチャ上の判断が、システムのレイテンシ、コスト、およびスケーラビリティ要件の達成を可能にしました：
- SageMaker AI の非同期推論 – 変化するリクエスト量に対応するために過剰なプロビジョニングを行わず、CPU 利用率ではなくキューの深さに基づいて自動スケーリングを行うため、GPU ワークロードに対してより正確なシグナルを提供します。
- GPU インスタンスの選定 – チームは複数の GPU インスタンスファミリーでベンチマークを実施し、最終的に ml.g6e.4xlarge から ml.g7e.4xlarge インスタンスへ移行しました。新しいインスタンスタイプは性能期待値を上回りました。中央値レイテンシは 1.687 秒から 1.432 秒に、P90 は 2.45 秒から 2.196 秒に低下しました。一方、ファームウェアは 15 インスタンスから 10 インスタンスへ統合され、レスポンス時間の改善とともに GPU インフラが 33% 削減されました。
- ダウンタイムゼロのデプロイ – A/B テストフレームワークにより、本番環境への完全展開前に各変更が生産トラフィックに対して検証されるため、本番環境にリスクを与えることなく毎日最適化の反復が可能になります。
- AWS Cloud WAN を活用したマルチリージョン – ネットワークインフラは、米国、欧州、カナダ、アジア太平洋地域全体に一貫したグローバル展開を提供します。
AWS との協力
エンゲージメントが始まった際、AWS ソリューションアーキテクチャチームは、他のクラウドプロバイダー上で稼働していた Henry Schein One の既存画像検証ワークロードをレビューしました。その後、同様の機能を提供しつつ、スケーラビリティにおいてレイテンシとコスト効率を改善できる同等の AWS サービスへアーキテクチャのマッピングを行いました。当初の焦点は、AWS 上で動作するベースラインを確立し、新しい環境でもマルチモデル推論パイプラインが正しく機能することを確認することにありました。チームが機能的な同等性に対して自信を深めるにつれ、協力の方向性はパフォーマンス最適化とスケーリングへと移行しました。アーキテクチャは段階的に進化し、サブ 3 秒の応答時間で数万か所のロケーションをサポートできる SageMaker AI 推論ベースのソリューションへと発展していきました。
この道のりを通じて、AWS チームは継続的なアーキテクチャレビューを提供し、ワークロードプロファイルに最適な GPU インスタンスファミリーの選定を支援し、利用パターンを分析してボトルネックを特定しました。また、チームは Henry Schein One のグローバル展開目標である 40,000 か所のロケーションに対応するスケーリング戦略も策定しました。この反復的で実践的な協力の性質により、両チームは迅速に動き、ゼロダウンタイムデプロイメントパターンを通じて生産環境の安定性を維持しながら、毎週最適化をリリースすることができました。
Optimization: Achieving efficiency at scale
Image Verify の道のりにおける示唆に富む側面の一つは、最適化の物語です。チームがいかに早期にインフラの不効率を特定し、迅速に対応し、今日では数十万の拠点で稼働する、軽量かつ極めて効率的な GPU ファームによって支えられるシステムへと到達したかという点です。
Identifying the bottleneck
Image Verify が生産環境での最初の数週間で急速にスケールするにつれ、チームは利用パターンの理解のためにインフラのプロファイリングを実施しました。その分析により、画像のデコード、正規化、リサイズを含む前処理パイプラインが CPU 上で完全に実行されていることが明らかになりました。GPU リソースは過小評価されており、ワークロードを維持するために必要な以上のインスタンスが消費されていました。
この GPU インスタンス上での CPU サイドのボトルネックは、大規模な機械学習推論における一般的な落とし穴です。CPU の飽和からのシグナルは GPU の余力を隠蔽し、チームが真の機会であるパイプライン最適化ではなく、追加のインスタンスをプロビジョニングするよう導くことがあります。
The optimization approach
チームはパイプライン全体にわたる優先度の高い最適化の機会を特定し、ダウンタイムゼロの A/B デプロイを通じてそれらを順次実装しました。最初の改善点は、画像前処理を CPU から GPU へ移行することであり、これはレイテンシや信頼性の低下を招くことなく、インスタンス効率において即座に顕著な向上をもたらしました。
2 つ目の最適化は直後に続き、インスタンスあたりのスループットにさらなる改善をもたらしました。数日以内に、システムは以前のインスタンス数のごく一部で、急速に拡大する立地範囲に対応できるようになりました。
「私たちのチームは、最適化可能な 60 以上の具体的な項目を特定するために時間を費やしました。リストを下から順に作業を開始し、1 日に複数回デプロイすることさえありました。私が特に強調したい 3 つのポイントは、モデル推論を CPU 側ではなく GPU に直接移動させること（CPU では得られないスループットを解放します）、非同期推論パイプラインへの変更、そして 10,000 箇所以上の立地に展開する前に改善点を安全に検証できる A/B テストフレームワークです。」
— トロイ・ミラー、Henry Schein One 副社長（アーキテクチャ担当）
現在の状況
最適化の旅が始まってから 2 週間以内に、Image Verify は 2,000 万本以上の歯科用 X 線を処理しました。週次ボリュームは平均 150 万本で増加傾向にあり、システムは 10,000 箇所を超えるアクティブな立地を支援しています。これはローンチ時の 250 の診療所から 43 倍の増加です。推論数全体を通じてエラー率は 0.01% で、中央値レイテンシは 1.4 秒、P90 は 2.2 秒を実現しています。ファームウェアは GPU 利用率が約 70% で稼働しており、最適化のバックログの 60% がすでに完了し、改善点は継続的にリリースされています。
これらの数値が患者のアウトカムにどう結びつくかが重要なポイントです。歯科保険請求のうち、画像品質の不良により最大 20% が初回で却下されています。Image Verify は、患者が施設を離れる前に低品質な画像をキャプチャ時点で検出するため、折り返し電話の削減、請求書の精算化、および診療所への支払い加速に貢献します。臨床医や事務スタッフにとっては、フィードバックループが即座に機能し、具体的なアクションにつながります。
同等に注目すべきは、採用の速度です。250 か所から 1 万か所超への拡大は、数ヶ月ではなく数週間で実現されました。技術者が自身のキャプチャ結果に対して品質スコアを確認できるゲーミフィケーション要素が、強制命令なしでエンゲージメントを高め、新規スタッフに対する自然なトレーニングメカニズムを生み出しています。
将来を見据え、本アーキテクチャは 4 つの地域にまたがる 40,000 か所というグローバル目標に対して検証済みです。現在の 10,000 か所はこのキャパシティの約 26% を占めており、再設計を行うことなく継続的な成長のための十分な余地（ランウェイ）を提供しています。チームはインフラ効率を単発プロジェクトではなく、製品機能として捉えています。顧客への影響もなく、メンテナンスウィンドウも不要なゼロダウンタイム A/B デプロイを通じて、毎週最適化をリリースしています。
マシンラーニング推論ワークロードに向けた教訓
Image Verify の最適化の道のりは、スケールして実行されるマシンラーニング推論ワークロードに適用可能な 4 つの原則を浮き彫りにします：
- スケーリング前のプロファイル – ボトルネックは CPU の前処理であり、GPU 計算ではありません。インスタンスを追加しても高価になり、効果もありませんでした。いずれかのコンポーネントをスケーリングする前に、パイプライン全体を計測・分析してください。
- モデルだけでなくパイプラインを最適化 – 推論のレイテンシは、モデルの実行そのものよりも、前処理、後処理、データ転送の中に隠れていることがよくあります。モデルの順伝播（フォワードパス）のみならず、エンドツーエンドのプロファイルを実施してください。
- ダウンタイムゼロでの反復を前提に設計 – A/B テストやトラフィックシフト機能により、本番環境へのリスクなく迅速な反復が可能となり、大規模な運用でも日次デプロイメントのサイクルを実現できます。
- 適切な自動スケーリングの指標を使用 – GPU インスタンスが CPU と GPU の両方のワークロードを混合して処理する場合、CPU 利用率よりもキュー深度や並列リクエスト数が、より信頼性の高いスケーリングのシグナルとなります。
今後の展望
Image Verify は、歯科画像診断に限定されないパターンを示しています：ケア現場におけるリアルタイム機械学習推論を、数千か所にスケールさせつつ、最小限のインフラで効率的に動作するように最適化されたアプローチです。
このアプローチは、組織が同様のワークロードに応用できる 4 つの主要な要素に基づいています：
- マネージド推論 – Amazon SageMaker AI は、GPU フリート管理、自動スケーリング、エンドポイントのライフサイクルといった運用上の複雑さを処理し、エンジニアチームがモデルとパイプラインの品質に集中できるようにします。
- 積極的なパイプライン最適化 – モデルだけでなく、推論全体のパイプラインをプロファイリングすることで、真のボトルネックを浮き彫りにし、追加のインフラコストをかけずに効率向上を実現します。
- ダウンタイムゼロのデプロイパターン – A/B テストとトラフィックシフトにより、本番環境へのリスクを負わずに迅速な反復が可能となり、大規模な日常デプロイサイクルを維持できます。
- マルチリージョンアーキテクチャ – AWS Cloud WAN と 4 つのリージョンにわたる一貫したインフラパターンが、医療機関が必要とするグローバルな展開力を提供します。
Henry Schein One の次のフェーズでは、4 つのリージョンにまたがる 40,000 カ所での運用を目指しており、このアーキテクチャが技術面だけでなく、グローバルな医療ネットワーク全体において運用面でもスケーラブルであることを証明しています。チームは引き続き最適化のバックログに取り組んでおり、各改善点はダウンタイムゼロのデプロイを通じて本番環境にリリースされています。
リアルタイム画像検証や同様の機械学習推論ワークロードを構築する組織にとって、推奨されるパターンは以下の通りです：まずマネージド推論から始め、すべての要素を計測可能にし、パイプラインをエンドツーエンドで最適化し、日常の反復をサポートするデプロイプラクティスを構築することです。
AWS で機械学習推論ワークロードを実行する方法については、Amazon SageMaker AI をご覧ください。Image Verify や Henry Schein One のプラクティス管理プラットフォームの詳細については、henryscheinone.com をご覧ください。
著者について
image
## Troy Miller
Troy は Henry Schein One のアーキテクチャ担当バイスプレジデント（VP）であり、大規模なクラウドネイティブヘルスケア SaaS プロダクトのグローバルチームとアーキテクチャを統括しています。彼はクラウドファーストプラットフォーム戦略、大規模データおよび機械学習（ML: Machine Learning）ワークロード、レガシーシステムの堅牢で高可用性のあるクラウドサービスへの近代化に注力しています。Troy は顧客、エンジニアリング、プロダクト、そしてクラウドプロバイダーと緊密に連携し、ミッションクリティカルなヘルスケアプラットフォーム全体での信頼性向上、コスト最適化、およびイノベーションを推進しています。
image
## Praveen Allam
Praveen は AWS のアカウントソリューションアーキテクトであり、組織がクラウド技術を活用して複雑なビジネス課題を解決するのを支援することに専門化しています。データ駆動型の変革に焦点を当てた彼の分析および生成 AI（Generative AI）技術に関する専門知識は、顧客が業界全体で AI 導入を加速し、より知的で反応性の高いシステムを構築することを導きます。
Nathan Jetson
Nathan は、AWS で Henry Schein One 全体の AWS フットプリントをサポートするテクニカルアカウントマネージャーです。彼は、アーキテクチャレビュー、サービスクォータ活動、および Image Verify の 10,000 箇所以上への急速なスケーリングを支援した go-live 準備サポートを含む、AWS アカウントチームとのエンゲージメントを調整しました。
David Caicedo
David は AWS のストラテジックアカウントエグゼクティブであり、22 年の経験を持ち、そのうち 15 年間はヘルスケアおよびライフサイエンス市場に専念してきました。彼はデジタルヘルスケアの変革における認められたリーダーであり、市場を創出するイノベーションを推進し、優れた結果を達成するための戦略的パートナーシップの構築で知られています。
原文を表示
In dentistry, image quality determines whether a claim is paid or denied. Up to 20 percent insurance claims are initially denied, with missing or low-quality images among the leading causes. Yet quality assessment has traditionally been a manual, after-the-fact process. A clinician reviews an X-ray hours or days after capture, discovering problems only when a claim is rejected or a treatment plan can’t proceed. If the image is blurry, misaligned, or incomplete, the patient must return for a retake, adding cost, delay, and frustration for everyone involved. The fundamental gap is timing: quality feedback arrives long after the patient has left and the clinical moment has passed.
This post describes how Henry Schein One closed that gap by building Image Verify, an AI-powered quality verification system on Amazon SageMaker AI that evaluates dental X-ray quality at the point of capture, in real time, across thousands of locations. The system went from concept to over 10,000 active locations within months and has already processed over 11 million X-rays and growing at 1.5 million per week. Henry Schein One is now scaling toward 40,000 locations globally across four regions.
The challenge: Real-time image quality at scale
Henry Schein One’s previous image verification solution ran on a different cloud platform, but it couldn’t deliver the latency or cost efficiency required for a smooth clinical workflow. Rebuilding on AWS wasn’t a migration. It required designing a system that could meet five simultaneous requirements. Missing any one of them would make the solution unusable in a clinical environment where seconds matter and trust is earned incrementally.
- Latency – Clinicians won’t wait. Quality assessment must return in under three seconds to fit naturally into the clinical workflow.
- Accuracy – Multiple machine learning (ML) models must evaluate different quality dimensions, including sharpness, alignment, and completeness, without false positives that erode clinician trust.
- Scale – The system must serve tens of thousands of locations concurrently, with daily volumes in the hundreds of thousands.
- Cost efficiency – GPU inference at this scale can be prohibitively expensive if not carefully optimized.
- Global reach – Healthcare is local, but the platform must deploy across multiple regions with consistent performance.
Henry Schein One’s Image Verify
Henry Schein One serves dental practices worldwide through Dentrix and Dentrix Ascend, practice management platforms used by tens of thousands of clinicians. Their Platform Services team identified a specific and costly pain point: up to 20 percent of dental insurance claims are initially denied, with missing or low-quality images among the leading causes.
Image Verify is an AI-powered quality assessment solution built natively into the practice management workflow. When a technician captures an X-ray, Image Verify evaluates it immediately and returns a quality score on a 1-to-5 scale. If the image scores low, the technician retakes it while the patient is still present, removing the need for a return visit.
The product went from concept in fall 2025 to production in a matter of months. Within weeks of launch, it was live in 250 practices. By late April 2026, that number had grown to over 10,000, a 43-times increase, with more than 9 million X-rays processed and weekly volumes averaging 1.5 million and growing.
Image Verify is a quality solution, not a diagnostic one. It doesn’t identify pathology. It answers one question: is this image good enough for clinical use? That distinction allowed the team to iterate without the regulatory constraints associated with clinical AI.
For practices, the impact is immediate: fewer patient callbacks, higher-quality insurance claims, improved training for new technicians, and a gamification element that drives technician engagement on its own.
“Image Verify was only an idea at the end of Q3. In 6 months it was created, refined, and now deployed at scale. The design and workflow make adoption fast, intuitive, and scalable.”
— Troy Miller, VP Architecture, Henry Schein One
Architecture: How AWS and Henry Schein One built the solution
Henry Schein One built Image Verify on AWS from the start, using Amazon SageMaker AI for machine learning inference at scale. The application layer runs on Amazon Elastic Kubernetes Service (Amazon EKS), which orchestrates requests from the practice management application to the SageMaker AI inference endpoints and returns the quality score to the clinician.
Architecture diagram:
The inference pipeline
When an image is captured at a dental practice, it flows through a multi-model machine learning inference pipeline hosted on SageMaker AI. The pipeline operates in sequential stages:
- Classification – The first stage identifies the image type, such as bitewing, panoramic, or periapical, and routes it to the appropriate quality evaluation models.
- Quality evaluation – Specialized models assess sharpness, alignment, coverage, and completeness for the identified image type.
- Score aggregation – Results from the quality models are combined into a single 1-to-5 quality score returned to the practice management application.
The entire round trip, from image capture to quality score displayed on screen, takes a median of 1.4 seconds with a P90 of 2.2 seconds. The system maintains a 0.01 percent error rate across millions of inferences.
The following architecture decisions enabled the system to meet latency, cost, and scale requirements:
- SageMaker AI async inference – Handles variable request volumes without over-provisioning, with autoscaling based on queue depth rather than CPU utilization, providing a more accurate signal for GPU workloads.
- GPU instance selection – The team benchmarked across GPU instance families, ultimately migrating from ml.g6e.4xlarge to ml.g7e.4xlarge instances. The newer instance type exceeded performance expectations. Median latency dropped from 1.687 to 1.432 seconds and P90 from 2.45 to 2.196 seconds. Meanwhile, the fleet consolidated from 15 instances down to 10, a 33 percent reduction in GPU infrastructure with improved response times.
- Zero-downtime deployments – An A/B testing framework validates each change against live production traffic before full rollout, allowing daily optimization iterations without risk to the production environment.
- Multi-Region through AWS Cloud WAN – Network infrastructure provides consistent global deployment across the United States, Europe, Canada, and Asia Pacific Regions.
The AWS collaboration
When the engagement began, the AWS Solutions Architecture team reviewed Henry Schein One’s existing image verification workload, which was running on another cloud provider. The team then mapped the architecture to equivalent AWS services that could deliver the same functionality with improved latency and cost efficiency at scale. The initial focus was on establishing a working baseline on AWS, validating that the multi-model inference pipeline performed correctly in the new environment. As the team gained confidence in the functional parity, the collaboration shifted toward performance optimization and scale. The architecture progressively evolved toward a SageMaker AI inference-based solution that could support tens of thousands of locations with sub-3-second response times.
Throughout this journey, the AWS team provided ongoing architecture reviews, helped identify the right GPU instance families for the workload profile, and analyzed utilization patterns to uncover bottlenecks. The team also developed scaling strategies aligned with Henry Schein One’s global rollout target of 40,000 locations. The iterative, hands-on nature of the collaboration allowed both teams to move quickly, shipping optimizations weekly while maintaining production stability through zero-downtime deployment patterns.
Optimization: Achieving efficiency at scale
One instructive aspect of Image Verify’s journey is the optimization story: how the team identified infrastructure inefficiencies early, responded quickly, and arrived at a system that today serves tens of thousands of locations on a lean, highly efficient GPU fleet.
Identifying the bottleneck
As Image Verify scaled rapidly in its first weeks of production, the team conducted infrastructure profiling to understand utilization patterns. Analysis revealed that the preprocessing pipeline, including image decoding, normalization, and resizing, was running entirely on CPU. GPU resources were being underutilized while the overall system consumed more instances than necessary to sustain the workload.
This kind of CPU-side bottleneck on GPU instances is a common pitfall in machine learning inference at scale. The signal from CPU saturation can mask GPU headroom, leading teams to provision additional instances when the real opportunity is pipeline optimization.
The optimization approach
The team identified a prioritized set of optimization opportunities across the pipeline and began shipping them through zero-downtime A/B deployments. The first improvement, moving image preprocessing from CPU to GPU, delivered immediate and significant gains in instance efficiency, with no regression in latency or reliability.
A second optimization followed shortly after, yielding further improvements in throughput per instance. Within days, the system was serving a rapidly growing location footprint on a fraction of the previous instance count.
“Our team spent time identifying 60+ specific things that could be optimized. We just started working down the list, often deploying multiple times per day. The three highlights I want to call out: moving more model inference to the GPU directly (unlocking throughput we can’t get CPU-side); changing to an async inference pipeline; and an A/B testing framework, which lets us safely validate improvements before we push them to 10,000+ locations.”
— Troy Miller, VP Architecture, Henry Schein One
Current state
Within two weeks into the optimization journey, Image Verify has processed over 20 million dental X-rays, with weekly volumes averaging 1.5 million and growing. The system serves more than 10,000 active locations, a 43x increase from the initial 250 practices at launch. It delivers a median latency of 1.4 seconds and a P90 of 2.2 seconds with a 0.01 percent error rate across millions of inferences. The fleet runs at approximately 70 percent GPU utilization, with 60 percent of the optimization backlog already completed and improvements shipping continuously.
A key impact is where these numbers translate to patient outcomes. Up to 20 percent of dental insurance claims are initially denied because of poor image quality. Image Verify catches low-quality images at the point of capture, before the patient leaves, helping to reduce callbacks, produce cleaner claims, and accelerate reimbursement for practices. For clinicians and office staff, the feedback loop is immediate and actionable.
Equally notable is the adoption velocity. The growth from 250 to over 10,000 locations happened in weeks, not months. The gamification element, where technicians see quality scores for their captures, drives engagement without mandates and creates a natural training mechanism for newer staff.
Looking ahead, the architecture has been validated for a global target of 40,000 locations across four regions. The current 10,000 locations represent approximately 26 percent of that capacity, providing significant runway for continued growth without re-architecture. The team treats infrastructure efficiency as a product feature, not a one-time project. Shipping optimizations weekly through zero-downtime A/B deployments with no customer impact and no scheduled maintenance windows.
Lessons for machine learning inference workloads
The Image Verify optimization journey surfaces four principles applicable to machine learning inference workloads running at scale:
- Profile before scaling – The bottleneck was CPU preprocessing, not GPU compute. Adding more instances would have been expensive and ineffective. Instrument the full pipeline before scaling any component.
- Optimize the pipeline, not only the model – Inference latency often hides in preprocessing, postprocessing, and data movement rather than in model execution. Profile end-to-end, not only the model forward pass.
- Build for zero-downtime iteration – A/B testing and traffic shifting support rapid iteration without production risk, allowing a daily deployment cadence at scale.
- Use the right autoscaling signal – Queue depth and concurrent request count are more reliable scaling signals than CPU utilization when GPU instances carry mixed CPU and GPU workloads.
Looking ahead
Image Verify demonstrates a pattern applicable far beyond dental imaging: real-time machine learning inference at the point of care, scaled to thousands of locations, and optimized to run efficiently on minimal infrastructure.
The approach rests on four key ingredients that organizations can apply to similar workloads:
- Managed inference – Amazon SageMaker AI handles the operational complexity of GPU fleet management, autoscaling, and endpoint lifecycle, freeing engineering teams to focus on model and pipeline quality.
- Aggressive pipeline optimization – Profiling the full inference pipeline, not only the model, surfaces the real bottlenecks and delivers efficiency gains without additional infrastructure spend.
- Zero-downtime deployment patterns – A/B testing and traffic shifting support rapid iteration without production risk, sustaining a daily deployment cadence at scale.
- Multi-region architecture – AWS Cloud WAN and consistent infrastructure patterns across four regions provide the global reach that healthcare organizations require.
Henry Schein One’s next phase targets 40,000 locations across four regions, proving that the architecture scales not only technically, but operationally across a global healthcare footprint. The team continues to work through its optimization backlog, with each improvement shipped live through zero-downtime deployments.
For organizations building real-time image verification or similar machine learning inference workloads, the pattern is: start with managed inference, instrument everything, optimize the pipeline end-to-end, and build deployment practices that support daily iteration.
To learn more about running machine learning inference workloads on AWS, visit Amazon SageMaker AI. To learn more about Image Verify and Henry Schein One’s practice management platform, visit henryscheinone.com.
About the authors
Troy Miller
Troy is VP of Architecture at Henry Schein One, where he leads global teams and architecture for large-scale, cloud-native healthcare SaaS products. He focuses on Cloud-first platform strategy, large-scale data and ML workloads, and modernizing legacy systems into resilient, highly available cloud services. Troy partners closely with customers, engineering, products, and cloud providers to drive reliability, cost optimization, and innovation across mission-critical healthcare platforms.
Praveen Allam
Praveen is an Account Solutions Architect at AWS, specializing in helping organizations harness cloud technologies to solve complex business challenges. With a focus on data-driven transformation, his expertise in analytics and generative AI technologies leads customers to accelerate AI adoption and create more intelligent, responsive systems across industries.
Nathan Jetson
Nathan is a Technical Account Manager at AWS supporting Henry Schein One across their full AWS footprint. He coordinated the AWS account team engagement, including architecture reviews, service quota activities, and go-live readiness support that supported the rapid scaling of Image Verify to over 10,000 locations.
David Caicedo
David is a Strategic Account Executive at AWS, with 22 years of experience, including 15 dedicated to the Healthcare and Life Science markets. He is a recognized leader in digital healthcare transformation, known for building strategic partnerships that drive market-making innovation and achieve outstanding results.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み