AI2、科学調査における AI 支援の難易度と課題を議論

AI はすでに、文献検索やデータセットの分析、コード作成、仮説の生成と検証など、驚くほど多くの科学作業を支援できる。しかし、より難しいのは、研究プロジェクトが進行する中で研究者がシステムを自在に操れるようにすることだ。特に、新たな証拠によって「どの仮説を追うべきか」「どのような実験を行うべきか」「次に何を調査すべきか」が変わるような状況では、その難しさが際立つ。

この課題こそが、8 月 27 日に Ai2 で開催されたイベントの焦点だった。同イベントは、プロビデンス・スウェーデンがん研究所にあるポール G. アレン研究センターとの連携を拡大したことを記念するものだった。私たちは、その協力から生まれたがん研究について別途記事で取り上げているが、今回のイベントでは、それを起点に、現在の科学用 AI がまだ欠いているものについてより広い視点で議論が行われた。

この対談には以下の人々が参加した：

発表やパネルディスカッションを通じて、5 つの課題が繰り返し浮き彫りになりました。

1. 人間の要素を尊重する余地を残す

Majumder氏は、「科学的な勘（scientific taste）」について説明しました。これは研究者が、興味深い結果と、些細なもの、非現実的なもの、すでに理解されているもの、あるいは何の進展も期待できないものを区別するための判断力です。現在の科学用 AI システムは、こうした重要な区別を自律的に行うことがまだ確実ではありません。

AI に判断を丸投げするのではなく、研究者が自らの専門知識や優先事項、そして問題に対する理解の変化をシステムに反映させられるような仕組みを作ることが課題です。そうすることで、AI は特定の方向性を自ら選定することなく、支援役として機能できるようになります。

Ai2 がプロビデンスの研究者たちと行った共同研究では、この区別が明確になりました。AutoDiscovery は統計的に驚くべき仮説を提示する一方で、専門家の文脈がなければ生物学的・臨床的な意味をなさないこともありました。しかし、研究者がドメイン知識をプロセスに組み込むことで、システムははるかに有用なものとなりました。

2. AI を操作可能に保つ

科学的研究には固定された計画は存在しません。実験で予期せぬ結果が出たり、新たな論文によって研究者の知見が変わったり、あるいは科学者がデータセットを追加したり、異なるツールに切り替えたり、AI エージェントを別の発見へと誘導したりすることがあります。

マジュンダー氏は、現在のエージェントは長期にわたる調査において操作が難しいと指摘しました。新しい実験結果や分野からの知見が入ってくるたびに、エージェントの指示、文脈、あるいはツールの修正が必要になる可能性があります。しかし、その都度モデルをゼロから再学習したり、やり直したりする必要はありません。

科学用エージェントにとって、行動を制御し知識を最新の状態に保つことは密接に関連しています。有用なエージェントは初期の指示に従うだけでは不十分で、研究が進化するにつれて適応し続ける必要があります。

3. 何を手放すかを決める

プーン氏は、AI が科学者に貢献する2つの方法を区別しました。1 つは生産性の向上、もう 1 つは創造性の向上です。

生産性の向上とは、すでに人間がやり方を知っているが、退屈だったり時間がかかったりする作業を AI に任せることで得られます。具体的には、記録の検索や情報の構造化、文献の要約などが該当します。これらのタスクは比較的記述しやすく、何より検証しやすいという特徴があります。

一方、創造性の向上を評価するのは難しくなります。AI に、科学者がこれまで考慮していなかったメカニズムを提示させたり、予期せぬ実験を提案させたりすることは科学的価値を持つ可能性がありますが、そのような出力結果は、明確に定義されたタスクのように単純には検証できません。アイデアが成立するかどうかを確認するには、さらに詳しい分析や再現性の確認が必要になることがほとんどです。

フラックスマン氏は、『プライバシーと機密性ジャーナル』の編集者としての経験から具体例を挙げています。ある研究者が、AI システムを使って自身の過去に発表した論文に含まれるアルゴリズムを検証させたところ、システムがその中の 1 つに誤りがあることを指摘しました。この批判内容を調査した結果、研究者は AI の指摘が正しいと結論付け、ジャーナルに対して論文の取り下げを求めました。

ここで重要なのは、AI の判断を鵜呑みにしたことに価値があるのではなく、「問いかけるべき対象」を浮き彫りにできた点にあります。ポールソン氏はこう述べています。「これは検索ではなく研究だ。発見し、そして検証しなければならない。」

4. 悪質な科学の増幅を防ぐ

分析が速くなっても、設計の不十分な研究や質の低いデータの問題は解決されません。サレルノ氏はこの点について、AI は「均衡器」ではなく「増幅器」であると説明しました。AI は優れた実験デザイン、慎重なデータ収集、妥当な因果推論をより強力なものにできますが、一方で脆弱な仮説や欠陥のある手法も増幅してしまうのです。

そのため、研究プロセスに関する根本的な問いはこれまで以上に重要になります。データはどこから来たのか？なぜ収集されたのか？誰が含まれ、誰が除外されたのか？見かけ上の相関関係は、因果関係として、あるいは科学的に妥当なものなのか？

AI が研究者により多くのデータを分析させ、より多くのアイデアを検証可能にするにつれて、脆弱な仮説や方法論的な欠陥も、かつてないほど重大な影響を及ぼすようになります。

5. AI と実験の間のループを強化する

議論された野心的な可能性の一つに、AI 科学者が独立して活動するのではなく、AI と研究室の間にもっと密接な連携をもたらすという案があります。

トラバグリニ氏は、数百種類の細胞タイプと数千の変化する遺伝子に関わる神経科学プロジェクトについて言及しました。これほど多くの関係性を、研究者が文献を調べるだけで追跡するのは不可能です。エージェントはこうしたエビデンスの統合や有望な仮説の優先順位付けを支援し、最終的には実験装置と直接対話することで、ある実験の結果が次の実験の設計に反映されるようなサイクルを実現します。

プーン氏は、生物学に対するより豊かな計算モデルという補完的な道筋を提示しました。彼が「バーチャル・ティシュー（仮想組織）」と呼ぶ概念は、個々の細胞のモデルと、疾病の進行や治療反応性を予測できる可能性を持つ「バーチャル・患者」という、さらに広範な目標をつなぐ架け橋となり得ると説明しています。

これらのアイデアを統合すると、研究プロセスにより深く関与する科学的 AI の姿が見えてきます。具体的には、研究者が何を調査すべきかを決定したり、新たな証拠を取り入れたり、分析と実験室での作業との結びつきを強化したりする役割です。その実現には、能力の高いモデルの整備だけでなく、より適応性の高いシステムや、新しい知識を組み込むための効果的な手法、そしてプロジェクトが進化する過程で研究者が自らの作業を主導・検証できる十分な柔軟性が不可欠となります。

最新の Ai2 ニュースに関する月次アップデートを受け取るには、購読してください。