HEAL: 機械学習パフォーマンスの健康公平性評価フレームワーク
Google Research は、既存の AI 公平性概念では不十分であるとして、既存の健康格差を優先的に改善する「HEAL」フレームワークを発表し、医療 AI の実装における公平性の再定義を提唱した。
キーポイント
公平性（Equity）と平等性（Equality）の明確な区別
記事は、単に異なる集団間で技術性能を均等にする「平等性」ではなく、健康格差が存在する背景を考慮し、より脆弱な層への支援を優先する「公平性」の概念が医療 AI には不可欠であると強調している。
HEAL フレームワークの導入
既存の手法では捉えきれない健康格差の影響を評価するために、診断技術や治療アクセスの違いなど多角的な要因を考慮した新しい評価枠組み「HEAL」を提案している。
医療 AI 実装における社会的責任
研究から臨床現場への移行プロセスにおいて、AI が既存の健康格差を悪化させないよう、技術的パフォーマンスだけでなく社会的公平性を厳密に評価する必要性を説いている。
HEALフレームワークの目的
機械学習ベースの医療技術が、既存の健康格差を縮小し、最も不利な状況にある集団に対して効果的に機能するかを定量的に評価するための手法を提供する。
4段階の評価プロセス
不平等要因の特定と指標定義、既存格差の定量、各サブグループでの性能測定、そして格差是正への優先度の確率計算という4ステップで公平性を評価する。
構造的不平等の考慮
健康格差は人口統計や社会経済的状況など多様な構造的要因に起因するため、モデル性能の評価にはこれらの背景を考慮することが不可欠である。
HEAL メトリックの定義
最終ステップの出力である HEAL メトリックは、機械学習モデルのパフォーマンスと健康格差との逆相関度を定量化する指標です。
影響分析・編集コメントを表示
影響分析
この発表は、医療 AI 分野における「公平性」の定義そのものを再考させる重要な転換点となる。従来の技術指標中心の評価から、社会的文脈や既存の格差を考慮した評価基準へパラダイムシフトを促し、今後の医療 AI の規制や開発ガイドラインに大きな影響を与える可能性がある。
編集コメント
医療 AI の実用化において技術的性能だけでなく、社会的公平性をどう定量化し評価するかが最大の課題の一つですが、Google が具体的なフレームワークを提示した点は非常に示唆に富んでいます。
HEAL: 機械学習パフォーマンスの健康公平性評価フレームワーク
<span class="byline-author">投稿者: Google Research リサーチサイエンティスト Mike Schaekermann、Google Core チーフ・ヘルス・エクイティ・オフィサー兼ディレクター Ivor Horn</span>
<img src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEhYi3V0CsXup8WA6SSjPagoMWfkIpbr9oRWEaUM1vIWOX8_TsZs6ikqOn6qIGbqUzAPhOxwhEPNfWSkECIxRz5fJ629cRGScLraFn2CSw53Sr5_li8Fe7A9I1nMShys_15IiUZNhNiPh_ueFVcu_7f34A-A0pMXXVdDaSoSAf2h0jETJ1PemIR5I6o9pIIW/s1600/HEAL-Hero.png" style="display: none;" />
<p>
健康の公平性は、格差の原因が多岐にわたる、世界的な主要な社会的関心事です。これらの原因には、医療へのアクセスの制限、臨床治療の違い、さらには診断技術の根本的な違いさえも含まれます。例えば皮膚科学においては、マイノリティ、社会経済的地位が低い人々、医療へのアクセスが限られている個人など、特定の集団では皮膚がんの転帰が悪化しています。機械学習（ML）や人工知能（AI）の最近の進歩が医療の改善に役立つ大きな可能性を秘めている一方で、研究から臨床現場への移行には、それらが健康の公平性にどのように影響するか、あるいは影響しないかを慎重に理解することが伴わなければなりません。
</p>
<p>
<em>健康の公平性</em>は、公衆衛生機関によって、すべての人が可能な限り健康であるための機会の公正さと定義されています。重要なことに、公平性は<em>平等</em>とは異なる場合があります。例えば、健康を改善するための障壁が大きい人々は、この公正な機会を経験するためにより多くの、あるいは異なる努力を必要とするかもしれません。同様に、公平性は、医療AIに関する文献で定義されている<em>公平性（フェアネス）</em>とも異なります。AIの公平性は、多くの場合、異なる患者集団間でAI技術のパフォーマンスが等しくなることを目指しますが、これは、既存の健康格差に関してパフォーマンスを優先するという目標を中心に据えていません。
</p>
<table align="center" cellpadding="0" cellspacing="0" class="tr-caption-container" style="margin-left: auto; margin-right: auto;"><tbody><tr><td style="text-align: center;"><a href="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEi21VRS33NG-Imj1XlKXWtrwUrl4loEEywV0tO8M0JWtUFFksbTLOhilTZtMdJTgOBdXACUPQX-f5TMAFkABFhdv_cEDmFn4d-JirU78covJI32sHus6XQVJ1C1elwM_MExsQfeVCpFYlq9QZeynLNpLqmW8GqM-DKWiGSyi_18n8Xb3-8IeepHSyBZ6_2l/s1999/image2.jpg" style="margin-left: auto; margin-right: auto;"><img border="0" data-original-height="1999" data-original-width="1609" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEi21VRS33NG-Imj1XlKXWtrwUrl4loEEywV0tO8M0JWtUFFksbTLOhilTZtMdJTgOBdXACUPQX-f5TMAFkABFhdv_cEDmFn4d-JirU78covJI32sHus6XQVJ1C1elwM_MExsQfeVCpFYlq9QZeynLNpLqmW8GqM-DKWiGSyi_18n8Xb3-8IeepHSyBZ6_2l/s16000/image2.jpg" /></a></td></tr><tr><td class="tr-caption" style="text-align: center;">健康の公平性に関する考察。介入（例：濃い青色で示されたMLベースのツール）は、既存の健康アウトカムの格差（薄い青色で示された）を縮小するのに役立つ場合、健康の公平性を促進します。</td></tr></tbody></table>
<p>
「<a href="https://www.thelancet.com/journals/eclinm/article/PIIS2589-5370(24)00058-0/fulltext">Health Equity Assessment of machine Learning performance (HEAL): a framework and dermatology AI model case study</a>」（機械学習パフォーマンスの健康公平性評価（HEAL）：フレームワークと皮膚科AIモデルケーススタディ）と題された論文が、<a href="https://www.thelancet.com/journals/eclinm/home"><i>The Lancet eClinicalMedicine</i></a>に掲載されました。本論文では、MLベースの医療技術が公平に機能するかどうかを定量的に評価する方法論を提案しています。言い換えれば、そのモデルが対象とする病態について、最も健康アウトカムが悪い人々に対してモデルは十分に機能するか？という問いです。この目標は、健康の公平性は、構造的不公平性（例：人口統計学的、社会的、文化的、政治的、経済的、環境的、地理的要因）を含む多くの要因による可能性がある、不均一な健康アウトカムに関して、モデルのパフォーマンスを優先し測定すべきであるという原則に基づいています。
</p>
<h2>健康公平性フレームワーク（HEAL）</h2>
<p>
HEALフレームワークは、MLベースの医療技術が公平に機能する可能性を推定するための4段階のプロセスを提案します：
</p>
<ol>
<li>
健康の不公平性に関連する要因を特定し、ツールのパフォーマンス指標を定義する。
</li>
<li>
既存の健康格差を特定し、定量化する。
</li>
<li>
各サブ集団に対するツールのパフォーマンスを測定する。
</li>
<li>
そのツールが健康格差に関してパフォーマンスを優先する可能性を測定する。
</li>
</ol>
<p>
最終ステップの出力はHEALメトリックと呼ばれ、MLモデルのパフォーマンスが健康格差とどの程度逆相関しているかを定量化します。言い換えれば、そのモデルは、健康
原文を表示
<span class="byline-author">Posted by Mike Schaekermann, Research Scientist, Google Research, and Ivor Horn, Chief Health Equity Officer &amp; Director, Google Core</span>
<img src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEhYi3V0CsXup8WA6SSjPagoMWfkIpbr9oRWEaUM1vIWOX8_TsZs6ikqOn6qIGbqUzAPhOxwhEPNfWSkECIxRz5fJ629cRGScLraFn2CSw53Sr5_li8Fe7A9I1nMShys_15IiUZNhNiPh_ueFVcu_7f34A-A0pMXXVdDaSoSAf2h0jETJ1PemIR5I6o9pIIW/s1600/HEAL-Hero.png" style="display: none;" />
<p>
Health equity is a major societal concern worldwide with disparities having many causes. These sources include limitations in access to healthcare, differences in clinical treatment, and even fundamental differences in the diagnostic technology. In dermatology for example, skin cancer outcomes are worse for populations such as minorities, those with lower socioeconomic status, or individuals with limited healthcare access. While there is great promise in recent advances in machine learning (ML) and artificial intelligence (AI) to help improve healthcare, this transition from research to bedside must be accompanied by a careful understanding of whether and how they impact health equity.
</p>
<a name='more'></a>
<p>
<em>Health equity</em> is defined by public health organizations as fairness of opportunity for everyone to be as healthy as possible. Importantly, equity may be different from <em>equality</em>. For example, people with greater barriers to improving their health may require more or different effort to experience this fair opportunity. Similarly, equity is not <em>fairness</em> as defined in the AI for healthcare literature. Whereas AI fairness often strives for equal performance of the AI technology across different patient populations, this does not center the goal of prioritizing performance with respect to pre-existing health disparities.
</p>
<table align="center" cellpadding="0" cellspacing="0" class="tr-caption-container" style="margin-left: auto; margin-right: auto;"><tbody><tr><td style="text-align: center;"><a href="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEi21VRS33NG-Imj1XlKXWtrwUrl4loEEywV0tO8M0JWtUFFksbTLOhilTZtMdJTgOBdXACUPQX-f5TMAFkABFhdv_cEDmFn4d-JirU78covJI32sHus6XQVJ1C1elwM_MExsQfeVCpFYlq9QZeynLNpLqmW8GqM-DKWiGSyi_18n8Xb3-8IeepHSyBZ6_2l/s1999/image2.jpg" style="margin-left: auto; margin-right: auto;"><img border="0" data-original-height="1999" data-original-width="1609" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEi21VRS33NG-Imj1XlKXWtrwUrl4loEEywV0tO8M0JWtUFFksbTLOhilTZtMdJTgOBdXACUPQX-f5TMAFkABFhdv_cEDmFn4d-JirU78covJI32sHus6XQVJ1C1elwM_MExsQfeVCpFYlq9QZeynLNpLqmW8GqM-DKWiGSyi_18n8Xb3-8IeepHSyBZ6_2l/s16000/image2.jpg" /></a></td></tr><tr><td class="tr-caption" style="text-align: center;">Health equity considerations. An intervention (e.g., an ML-based tool, indicated in dark blue) promotes health equity if it helps reduce existing disparities in health outcomes (indicated in lighter blue).</td></tr></tbody></table>
<p>
In “<a href="https://www.thelancet.com/journals/eclinm/article/PIIS2589-5370(24)00058-0/fulltext">Health Equity Assessment of machine Learning performance (HEAL): a framework and dermatology AI model case study</a>”, published in <a href="https://www.thelancet.com/journals/eclinm/home"><i>The Lancet eClinicalMedicine</i></a>, we propose a methodology to quantitatively assess whether ML-based health technologies perform equitably. In other words, does the ML model perform well for those with the worst health outcomes for the condition(s) the model is meant to address? This goal anchors on the principle that health equity should prioritize and measure model performance with respect to disparate health outcomes, which may be due to a number of factors that include structural inequities (e.g., demographic, social, cultural, political, economic, environmental and geographic).
</p>
<br />
<h2>The health equity framework (HEAL)</h2>
<p>
The HEAL framework proposes a 4-step process to estimate the likelihood that an ML-based health technology performs equitably:
</p>
<ol>
<li>
Identify factors associated with health inequities and define tool performance metrics,
</li>
<li>
Identify and quantify pre-existing health disparities,
</li>
<li>
Measure the performance of the tool for each subpopulation,
</li>
<li>
Measure the likelihood that the tool prioritizes performance with respect to health disparities.
</li>
</ol>
<p>
The final step’s output is termed the HEAL metric, which quantifies how anticorrelated the ML model’s performance is with health disparities. In other words, does the model perform better with populations that have
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み