過度に集約された機械学習メトリクスを超えることの重要性

MITの研究者らは、機械学習モデルが訓練データとは異なるデータに適用された際に、モデルが重大な失敗を示す事例を特定しました。この発見は、モデルが新たな環境に導入される度にテストを行う必要性に疑問を投げかけています。 「大量のデータでモデルを訓練し、平均的に最良のモデルを選択した場合でも、新たな環境ではその『最良のモデル』が新規データの6〜75%に対して最悪のモデルになり得ることを実証しました」と、MIT電気工学・計算機科学科（EECS）准教授で、医学工学・科学研究所のメンバー、情報・意思決定システム研究所の主任研究員を務めるマルジエ・ガセミは述べています。 12月のNeural Information Processing Systems（NeurIPS 2025）カンファレンスで発表された論文で、研究者らは次のように指摘しています。例えば、ある病院の胸部X線画像から効果的に病気を診断するよう訓練されたモデルは、平均的には別の病院でも有効と見なされるかもしれません。しかし、研究者らの性能評価により、最初の病院で最高の性能を示した一部のモデルが、2番目の病院の患者の最大75%に対して最悪の性能を示すことが明らかになりました。2番目の病院の全患者を集計すると高い平均性能が得られるため、この失敗は見えにくくなっているのです。 彼らの発見は、擬相関（spurious correlation）――例えば、機械学習システムがビーチで撮影された牛の写真をあまり「見た」ことがないために、背景だけでその写真をシャチと分類してしまうような単純な例――が、観測データに対するモデルの性能を向上させるだけで緩和されると考えられてきたものの、実際には依然として発生し、新たな環境におけるモデルの信頼性に対するリスクとなり得ることを示しています。胸部X線、癌組織病理画像、ヘイトスピーチ検出など、研究者らが調査した分野を含む多くの事例において、このような擬相関の検出ははるかに困難です。 例えば、胸部X線画像で訓練された医療診断モデルは、ある病院のX線画像に特有の無関係な印字を、特定の疾患と相関付けることを学習したかもしれません。その印字を使用しない別の病院では、その疾患を見逃す可能性があります。 ガセミのグループによる以前の研究は、モデルが年齢、性別、人種などの要因を医学的所見と擬似的に相関付ける可能性があることを示しています。例えば、肺炎のある高齢者の胸部X線画像を多く訓練し、若年者のX線画像をあまり「見て」いないモデルは、肺炎があるのは高齢患者だけだと予測するかもしれません。 「我々は、モデルが患者の解剖学的特徴を観察し、それに基づいて判断する方法を学習することを望んでいます」と、MITのポスドク研究員で本論文の筆頭著者であるオラワレ・サラウディーンは述べています。「しかし実際には、判断と相関するデータ内のあらゆる要素がモデルに利用される可能性があります。そしてそれらの相関関係は、環境の変化に対して頑健ではないかもしれず、その結果、モデルの予測は意思決定の信頼できる根拠ではなくなってしまいます。」 擬相関は、偏った意思決定のリスクを高めます。NeurIPSカンファレンス論文で、研究者らは例えば、全体的な診断性能が向上した胸部X線モデルが、実際には胸膜疾患（pleural conditions）または心縦隔拡大（enlarged cardiomediastinum、心臓または胸部中央腔の拡大）を有する患者に対しては性能が悪化したことを示しました。 論文の他の著者には、博士課程学生のハオラン・チャンとクマイル・アルハモウド、EECS助教授のサラ・ビアリー、そしてガセミが名を連ねています。 これまでの研究では一般に、性能順（最良から最悪）に並べられたモデルは、新たな環境に適用された際にもその順序を維持する（accuracy-on-the-lineと呼ばれる）と受け入れられてきました。しかし研究者らは、ある環境で最高の性能を示したモデルが、別の環境では最悪の性能を示す事例を実証することに成功しました。 サラウディーンは、accuracy-on-the-lineが成り立たない事例を見つけるため、OODSelectというアルゴリズムを考案しました。基本的な手順は、分布内データ（in-distribution data、つまり最初の環境からのデータ）を用いて数千のモデルを訓練し、その精度を計算するというものです。次に、それらのモデルを2番目の環境からのデータに適用します。最初の環境のデータで最高の精度を示したモデルが、2番目の環境の事例の大部分で誤った判断を下した場合、これが問題のあるサブセット、すなわち部分母集団を特定することになります。サラウディーンはまた、評価における集計統計（aggregate statistics）の危険性を強調しています。集計統計は、モデル性能に関するより詳細で重要な情報を見えにくくする可能性があるからです。 研究過程において、研究者らは、データセット内の擬相関を、単に分類が困難な状況と混同しないよう、「最も誤分類された事例」を分離して扱いました。 NeurIPS論文は、研究者らのコードといくつかの特定されたサブセットを、将来の研究のために公開しています。 病院や機械学習を採用するあらゆる組織が、モデルの性能が低いサブセットを特定したならば、その情報を用いて、特定のタスクと環境に合わせてモデルを改善することができます。研究者らは、評価対象を明確にし、より一貫して性能を向上させる設計アプローチを取るために、将来の研究においてOODSelectを採用することを推奨しています。 「公開されたコードとOODSelectサブセットが、擬相関の悪影響に立ち向かうベンチマークとモデル開発への足がかりとなることを願っています」と研究者らは記しています。

過度に集約された機械学習メトリクスを超えることの重要性

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト