MITの科学者が臨床AI時代の記憶化リスクを調査

患者のプライバシーは何のためにあるのか？世界で最も古く、最も広く知られる医療倫理文書の一つと考えられているヒポクラテスの誓いは次のように述べている。「私は、専門的な診療に関連するか否かにかかわらず、患者の生活の中で見聞きしたことで、外部で語られるべきでないものは、それらすべてを私的なものと見なして秘密を守る」 データを求めるアルゴリズムとサイバー攻撃の時代においてプライバシーがますます希少になる中、医療は、機密性が実践の中心であり続ける数少ない分野の一つである。それによって患者は医師に機密情報を信頼して託すことができる。 しかし、MITの研究者らが共著した論文は、匿名化された電子健康記録（EHRs）で訓練された人工知能モデルが、患者固有の情報を記憶する可能性を調査している。この研究は、2025年の神経情報処理システム会議（NeurIPS）で最近発表され、標的型プロンプトによって情報が漏洩しないことを保証するための厳格なテスト手法を推奨している。また、漏洩が患者のプライバシーを実質的に侵害するかどうかは、医療の文脈で評価されなければならないことを強調した。 EHRsで訓練された基盤モデルは通常、多くの患者記録を基に知識を一般化し、より良い予測を行うべきである。しかし、「記憶化」が起こると、モデルは単一の患者記録に依存して出力を生成し、患者のプライバシーを侵害する可能性がある。特に、基盤モデルはすでにデータ漏洩を起こしやすいことが知られている。 「これらの大規模モデルにおける知識は多くのコミュニティにとって資源となり得ますが、敵対的攻撃者はモデルに入力（プロンプト）を与えて学習データに関する情報を抽出することができます」と、MITおよびハーバード大学のブロード研究所内エリック＆ウェンディ・シュミットセンターのポスドク研究員で、論文の筆頭著者であるサナ・トネカボニは述べる。基盤モデルが個人データも記憶するリスクを考慮し、彼女は「この研究は、モデルを公開する前に私たちのコミュニティが取ることのできる実用的な評価手法が確実にあるようにするための一歩です」と指摘している。 医療においてEHR基盤モデルがもたらす潜在的なリスクについて研究を行うため、トネカボニはMITのマルジエ・ガセミ准教授に協力を求めた。ガセミ准教授は、「健康のための機械学習アブドゥル・ラティフ・ジャミール・クリニック（Jameel Clinic）」の主任研究者であり、計算機科学・人工知能研究所（CSAIL）のメンバーでもある。MIT電気工学・計算機科学科および医学工学・科学研究所の教員であるガセミ准教授は、医療における堅牢な機械学習に焦点を当てた「Healthy ML」グループを率いている。 悪意のある攻撃者が機密データを暴露するにはどれだけの情報が必要で、漏洩した情報に伴うリスクは何か？これを評価するため、研究チームは将来のプライバシー評価の基礎を築くことを目指す一連のテストを開発した。これらのテストは、さまざまな種類の不確実性を測定し、攻撃可能性の様々な段階を評価することで、患者に対する実用的なリスクを測定するように設計されている。 「私たちはここで実用性を本当に強調しようとしました。もし攻撃者が情報を抽出するために、あなたの記録から数十の検査の日付と値を知る必要があるなら、害のリスクはほとんどありません。もし私がすでにそのレベルの保護された元データにアクセスできるなら、なぜさらに多くの情報を得るために大規模な基盤モデルを攻撃する必要があるでしょうか？」とガセミ准教授は述べる。 医療記録の避けられないデジタル化に伴い、データ侵害はより一般的になっている。過去24か月間、米国保健社会福祉省は、500人以上に影響を与える健康情報に関する747件のデータ侵害を記録しており、その大半はハッキングまたはITインシデントに分類されている。 特徴的な病状を持つ患者は、特定することがいかに容易であるかを考えると、特に脆弱である。「匿名化されたデータであっても、それは個人についてどのような情報を漏洩するかに依存します」とトネカボニは言う。「一度彼らを特定すれば、あなたははるかに多くのことを知ることになります」 構造化されたテストにおいて、研究者らは、攻撃者が特定の患者についてより多くの情報を持っているほど、モデルが情報を漏洩する可能性が高いことを発見した。彼らは、プライバシーリスクを適切に評価するために、モデルの一般化と患者レベルの記憶化を区別する方法を示した。 論文はまた、いくつかの漏洩は他のものよりも有害であることを強調した。例えば、モデルが患者の年齢や人口統計情報を明らかにすることは、HIV診断やアルコール乱用などのより敏感な情報を明らかにすることよりも、害の少ない漏洩とみなされる可能性がある。 研究者らは、特徴的な病状を持つ患者は、特定が容易であるため特に脆弱であり、より高いレベルの保護が必要となる可能性があると指摘している。「匿名化されたデータであっても、それは本当に個人についてどのような情報を漏洩するかに依存します」とトネカボニは言う。研究者らは、この研究をより学際的なものに拡大し、臨床医、プライバシー専門家、さらに法律専門家を加えることを計画している。 「私たちの健康データが非公開であるのには理由があります」とトネカボニは言う。「他の人がそれについて知る理由はありません」 この研究は、MITおよびハーバード大学のブロード研究所内エリック＆ウェンディ・シュミットセンター、ワレンベリAI、クヌート＆アリス・ワレンベリ財団、米国国立科学財団（NSF）、ゴードン＆ベティ・ムーア財団賞、Google Research Scholar賞、およびシュミット・サイエンシズのAI2050プログラムによって支援された。この研究の準備に使用されたリソースは、一部、オンタリオ州、カナダ政府（CIFARを通じて）、およびベクター研究所を支援する企業によって提供された。

MITの科学者が臨床AI時代の記憶化リスクを調査

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト