HEAL: 機械学習パフォーマンスの健康公平性評価フレームワーク
本文の状態
日本語全文を表示中
詳細モードで約4分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Google Research Blog
Google研究者が、医療AIの公平性を評価する「HEAL」フレームワークを発表。機械学習モデルの性能評価に健康格差の視点を組み込み、医療における公平性向上を目指す。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
HEAL: 機械学習パフォーマンスの健康公平性評価フレームワーク
<span class="byline-author">投稿者: Google Research リサーチサイエンティスト Mike Schaekermann、Google Core チーフ・ヘルス・エクイティ・オフィサー兼ディレクター Ivor Horn</span>
<img src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEhYi3V0CsXup8WA6SSjPagoMWfkIpbr9oRWEaUM1vIWOX8_TsZs6ikqOn6qIGbqUzAPhOxwhEPNfWSkECIxRz5fJ629cRGScLraFn2CSw53Sr5_li8Fe7A9I1nMShys_15IiUZNhNiPh_ueFVcu_7f34A-A0pMXXVdDaSoSAf2h0jETJ1PemIR5I6o9pIIW/s1600/HEAL-Hero.png" style="display: none;" />
<p>
健康の公平性は、格差の原因が多岐にわたる、世界的な主要な社会的関心事です。これらの原因には、医療へのアクセスの制限、臨床治療の違い、さらには診断技術の根本的な違いさえも含まれます。例えば皮膚科学においては、マイノリティ、社会経済的地位が低い人々、医療へのアクセスが限られている個人など、特定の集団では皮膚がんの転帰が悪化しています。機械学習（ML）や人工知能（AI）の最近の進歩が医療の改善に役立つ大きな可能性を秘めている一方で、研究から臨床現場への移行には、それらが健康の公平性にどのように影響するか、あるいは影響しないかを慎重に理解することが伴わなければなりません。
</p>
<p>
<em>健康の公平性</em>は、公衆衛生機関によって、すべての人が可能な限り健康であるための機会の公正さと定義されています。重要なことに、公平性は<em>平等</em>とは異なる場合があります。例えば、健康を改善するための障壁が大きい人々は、この公正な機会を経験するためにより多くの、あるいは異なる努力を必要とするかもしれません。同様に、公平性は、医療AIに関する文献で定義されている<em>公平性（フェアネス）</em>とも異なります。AIの公平性は、多くの場合、異なる患者集団間でAI技術のパフォーマンスが等しくなることを目指しますが、これは、既存の健康格差に関してパフォーマンスを優先するという目標を中心に据えていません。
</p>
<table align="center" cellpadding="0" cellspacing="0" class="tr-caption-container" style="margin-left: auto; margin-right: auto;"><tbody><tr><td style="text-align: center;"><a href="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEi21VRS33NG-Imj1XlKXWtrwUrl4loEEywV0tO8M0JWtUFFksbTLOhilTZtMdJTgOBdXACUPQX-f5TMAFkABFhdv_cEDmFn4d-JirU78covJI32sHus6XQVJ1C1elwM_MExsQfeVCpFYlq9QZeynLNpLqmW8GqM-DKWiGSyi_18n8Xb3-8IeepHSyBZ6_2l/s1999/image2.jpg" style="margin-left: auto; margin-right: auto;"><img border="0" data-original-height="1999" data-original-width="1609" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEi21VRS33NG-Imj1XlKXWtrwUrl4loEEywV0tO8M0JWtUFFksbTLOhilTZtMdJTgOBdXACUPQX-f5TMAFkABFhdv_cEDmFn4d-JirU78covJI32sHus6XQVJ1C1elwM_MExsQfeVCpFYlq9QZeynLNpLqmW8GqM-DKWiGSyi_18n8Xb3-8IeepHSyBZ6_2l/s16000/image2.jpg" /></a></td></tr><tr><td class="tr-caption" style="text-align: center;">健康の公平性に関する考察。介入（例：濃い青色で示されたMLベースのツール）は、既存の健康アウトカムの格差（薄い青色で示された）を縮小するのに役立つ場合、健康の公平性を促進します。</td></tr></tbody></table>
<p>
「<a href="https://www.thelancet.com/journals/eclinm/article/PIIS2589-5370(24)00058-0/fulltext">Health Equity Assessment of machine Learning performance (HEAL): a framework and dermatology AI model case study</a>」（機械学習パフォーマンスの健康公平性評価（HEAL）：フレームワークと皮膚科AIモデルケーススタディ）と題された論文が、<a href="https://www.thelancet.com/journals/eclinm/home"><i>The Lancet eClinicalMedicine</i></a>に掲載されました。本論文では、MLベースの医療技術が公平に機能するかどうかを定量的に評価する方法論を提案しています。言い換えれば、そのモデルが対象とする病態について、最も健康アウトカムが悪い人々に対してモデルは十分に機能するか？という問いです。この目標は、健康の公平性は、構造的不公平性（例：人口統計学的、社会的、文化的、政治的、経済的、環境的、地理的要因）を含む多くの要因による可能性がある、不均一な健康アウトカムに関して、モデルのパフォーマンスを優先し測定すべきであるという原則に基づいています。
</p>
<h2>健康公平性フレームワーク（HEAL）</h2>
<p>
HEALフレームワークは、MLベースの医療技術が公平に機能する可能性を推定するための4段階のプロセスを提案します：
</p>
<ol>
<li>
健康の不公平性に関連する要因を特定し、ツールのパフォーマンス指標を定義する。
</li>
<li>
既存の健康格差を特定し、定量化する。
</li>
<li>
各サブ集団に対するツールのパフォーマンスを測定する。
</li>
<li>
そのツールが健康格差に関してパフォーマンスを優先する可能性を測定する。
</li>
</ol>
<p>
最終ステップの出力はHEALメトリックと呼ばれ、MLモデルのパフォーマンスが健康格差とどの程度逆相関しているかを定量化します。言い換えれば、そのモデルは、健康
原文を表示
<span class="byline-author">Posted by Mike Schaekermann, Research Scientist, Google Research, and Ivor Horn, Chief Health Equity Officer &amp; Director, Google Core</span>
<img src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEhYi3V0CsXup8WA6SSjPagoMWfkIpbr9oRWEaUM1vIWOX8_TsZs6ikqOn6qIGbqUzAPhOxwhEPNfWSkECIxRz5fJ629cRGScLraFn2CSw53Sr5_li8Fe7A9I1nMShys_15IiUZNhNiPh_ueFVcu_7f34A-A0pMXXVdDaSoSAf2h0jETJ1PemIR5I6o9pIIW/s1600/HEAL-Hero.png" style="display: none;" />
<p>
Health equity is a major societal concern worldwide with disparities having many causes. These sources include limitations in access to healthcare, differences in clinical treatment, and even fundamental differences in the diagnostic technology. In dermatology for example, skin cancer outcomes are worse for populations such as minorities, those with lower socioeconomic status, or individuals with limited healthcare access. While there is great promise in recent advances in machine learning (ML) and artificial intelligence (AI) to help improve healthcare, this transition from research to bedside must be accompanied by a careful understanding of whether and how they impact health equity.
</p>
<a name='more'></a>
<p>
<em>Health equity</em> is defined by public health organizations as fairness of opportunity for everyone to be as healthy as possible. Importantly, equity may be different from <em>equality</em>. For example, people with greater barriers to improving their health may require more or different effort to experience this fair opportunity. Similarly, equity is not <em>fairness</em> as defined in the AI for healthcare literature. Whereas AI fairness often strives for equal performance of the AI technology across different patient populations, this does not center the goal of prioritizing performance with respect to pre-existing health disparities.
</p>
<table align="center" cellpadding="0" cellspacing="0" class="tr-caption-container" style="margin-left: auto; margin-right: auto;"><tbody><tr><td style="text-align: center;"><a href="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEi21VRS33NG-Imj1XlKXWtrwUrl4loEEywV0tO8M0JWtUFFksbTLOhilTZtMdJTgOBdXACUPQX-f5TMAFkABFhdv_cEDmFn4d-JirU78covJI32sHus6XQVJ1C1elwM_MExsQfeVCpFYlq9QZeynLNpLqmW8GqM-DKWiGSyi_18n8Xb3-8IeepHSyBZ6_2l/s1999/image2.jpg" style="margin-left: auto; margin-right: auto;"><img border="0" data-original-height="1999" data-original-width="1609" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEi21VRS33NG-Imj1XlKXWtrwUrl4loEEywV0tO8M0JWtUFFksbTLOhilTZtMdJTgOBdXACUPQX-f5TMAFkABFhdv_cEDmFn4d-JirU78covJI32sHus6XQVJ1C1elwM_MExsQfeVCpFYlq9QZeynLNpLqmW8GqM-DKWiGSyi_18n8Xb3-8IeepHSyBZ6_2l/s16000/image2.jpg" /></a></td></tr><tr><td class="tr-caption" style="text-align: center;">Health equity considerations. An intervention (e.g., an ML-based tool, indicated in dark blue) promotes health equity if it helps reduce existing disparities in health outcomes (indicated in lighter blue).</td></tr></tbody></table>
<p>
In “<a href="https://www.thelancet.com/journals/eclinm/article/PIIS2589-5370(24)00058-0/fulltext">Health Equity Assessment of machine Learning performance (HEAL): a framework and dermatology AI model case study</a>”, published in <a href="https://www.thelancet.com/journals/eclinm/home"><i>The Lancet eClinicalMedicine</i></a>, we propose a methodology to quantitatively assess whether ML-based health technologies perform equitably. In other words, does the ML model perform well for those with the worst health outcomes for the condition(s) the model is meant to address? This goal anchors on the principle that health equity should prioritize and measure model performance with respect to disparate health outcomes, which may be due to a number of factors that include structural inequities (e.g., demographic, social, cultural, political, economic, environmental and geographic).
</p>
<br />
<h2>The health equity framework (HEAL)</h2>
<p>
The HEAL framework proposes a 4-step process to estimate the likelihood that an ML-based health technology performs equitably:
</p>
<ol>
<li>
Identify factors associated with health inequities and define tool performance metrics,
</li>
<li>
Identify and quantify pre-existing health disparities,
</li>
<li>
Measure the performance of the tool for each subpopulation,
</li>
<li>
Measure the likelihood that the tool prioritizes performance with respect to health disparities.
</li>
</ol>
<p>
The final step’s output is termed the HEAL metric, which quantifies how anticorrelated the ML model’s performance is with health disparities. In other words, does the model perform better with populations that have
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み