Google DeepMind、AI の生物濫用防止プログラムを発表

Google DeepMind と Isomorphic Labs は、生物学分野における AI の悪用を防止しつつ、感染症アウトブレイクへの対応を支援する「バイオレジリエンス（生物学的回復力）」プログラムを発表しました。

両社は、12 月間にわたり政府機関、バイオセキュリティ組織、研究グループとの間で 15 以上の連携先を築き上げてきた共同プロジェクトの最新状況を公表しました。この取り組みは当初は静かに始まりましたが、現在では着実に拡大しています。

今回の発表には、特定の文脈における課題が伴っています。Gemini に代表される最先端モデルは、生物学に関する理解をより詳細かつ深めています。DeepMind は、これらのシステムを専門的な生物学モデルや、同社が提供する Antigravity プラットフォームのようなエージェント、さらに第三者のデータベースと組み合わせることで、その能力がさらに強化されると認めています。

しかし、研究者がワクチンの標的を特定する手助けとなる知識は、原理的には脅威を加える側が自身の理解不足を埋めるためにも利用され得ます。DeepMind と Isomorphic Labs はこれを「二重の使命」と捉えています。すなわち、最先端 AI がもたらす科学技術の進展を可能にすると同時に、そのツールが悪意ある人物の手元に渡るのを防ぐことです。

両社によると、このプログラムは 3 つの柱の上に成り立っています。1 つ目は悪用の防止、2 つ目はアウトブレイクの早期検出、そして 3 つ目はアウトブレイクや攻撃が発生した後の迅速な対応です。

過去1年間に構築された15以上のパートナーシップは、これら3つの領域すべてに及んでいます。ただし、今回のアップデートでは、ローレンス・リバモア国立研究所や英国AIセキュリティ研究所、CEPI（感染症流行対策イノベーション連合）、フランシス・クリック研究所といった特定の協力機関名を除き、具体的にどの組織が関与しているかについての詳細は限定的です。

DeepMind は今後6〜12ヶ月にかけてこれらの関係を拡大する意向を示しており、今後は脅威インテリジェンスの共有やAI エージェントの評価手法、そして「ジールブレイク（制限突破）」への対策に注力していきます。また、フロンティア・モデル・フォーラムとも連携し、リスクの高いトレーニングデータの扱い方について議論しています。具体的にはウイルス学データセットがその例として挙げられています。

正当な科学活動を阻害しないよう Gemini を強化する

この予防策の根幹にあるのは、誰が不正利用を試みる可能性が高く、現在どのようなボトルネックがそれを防いでいるかを特定するための脅威モデリングです。DeepMind は、Gemini がこれらのボトルネックを突破する手助けをしてしまう恐れがあるかどうかを判断するため、専門家のレッドチーム演習とランダム化比較試験を組み合わせて実施しています。

学習後の調整手法では、有害な問い合わせに対して拒否するようモデルに教え込む一方で、正当な科学質問に対する過度な拒絶（過剰なフィルタリング）は避けるように設計されています。これは DeepMind だけでなく業界全体で難易度の高い課題とされており、両者のバランスを取ることは容易ではありません。リスクのある活動をリアルタイムで検知するため分類器やプローブが導入され、さらに自動フィルターでは見逃されやすい微妙な不正利用パターンを捉えるために、特定のログ分析も実施しています。

これらの対策のいずれも「解決済み」とは明言されていません。DeepMind は、これらを完成したシステムとしてではなく、継続的なプロセスとして位置づけています。これは、現在の設定で安全対策を信頼するかどうかを検討している企業や政府機関にとって重要な意味を持ちます。

制御された評価環境において既知の脱獄パターンに対して調整された分類器が、実際の運用中に現れる新たな攻撃手法に対しても同等の性能を発揮するとは限りません。同社は、そのような保証は行いません。

DNA 合成スクリーニングの問題

現在検討されている具体的なリスクの一つに、DNA 合成があります。国際遺伝子合成コンソーシアム（IGSC）に加盟する企業は、既知の有害な病原体や毒素の一覧とスクリーニングアルゴリズムを組み合わせて注文を審査しています。しかし DeepMind は、このアプローチがすでに限界を迎えつつあると明確に指摘しています。

現在の AI の能力では、危険な病原体と機能は似ているものの、既存のスクリーニングシステムで検出されるほど配列が類似していない DNA 配列を設計できるようになったからです。

提案されている対策は、DeepMind が既に展開している「SynthID」という透かし技術から着想を得ています。同社によれば、SynthID は AI 生成画像やテキストの識別において業界標準として定着しています。これを生物学的な配列に応用する試みは、現時点では探索的な研究段階であり、実用化された製品としての提供を意味するものではありません。

より長期的な目標の一つとして、既存のデータベースに類似するかどうかに関わらず、その機能に基づいて新しい DNA 配列が毒性や病原性を示す可能性を予測するスクリーニング技術があります。これはまだ解決された課題ではなく、オープンな技術的挑戦として位置づけられています。

検出層としての低コスト化が進むシーケンシング

検出にはメタゲノムシーケンシングが不可欠です。従来の診断法が既知の病原体のリストから特定のものを確認するのに対し、この手法はサンプル内のすべての微生物を特徴づけます。しかし、このアプローチを広域に展開し、特にアウトブレイクが発生しやすい地域で機能させるためには、コストの大幅な削減が最大の課題となります。

DeepMind は、Google と Pacific Biosciences の共同研究において、AlphaEvolve というコーディングエージェントを用いてシーケンシングの精度を向上させた事例を、この目標に向けた一歩として挙げています。同社は現在、シーケンシングデータを処理するアルゴリズムの最適化からハードウェア設計へのフィードバックに至るまで、さらなる可能性を探求中だと述べています。また、AlphaGenome を用いて配列データそのものから病原体を直接同定できるかどうかも別個に検討しています。

ただし、これらはまだ実戦投入されたシステムではなく、研究段階の協力関係に留まっています。制御されたパイプライン内での精度向上と、資源が乏しい地域における下水処理場や交通ハブなど広範囲に展開される機能する早期警戒ネットワークの間には、依然として大きな隔たりがあります。

AlphaFold の成果記録と対策のギャップ

対応策の柱は、多くの既知の病原体に対して承認された診断法やワクチン、治療薬が存在しないという医療対策の空白地帯に依存しています。DeepMind は、過去 5 年間で AlphaFold を引用した感染症関連の研究論文が 1 万本以上あると指摘しており、その中には結核やマラリアの伝播研究、そしてエボラ出血熱（Mpox）やニパウイルスなどの脅威に対する標的マッピングが含まれています。

この記録に最新で加わったのは、ローレンス・リバモア国立研究所の生物レジリエンスプログラムとの提携です。同プログラムでは AlphaFold 3 を活用し、フィロウイルス全般を対象とした抗体設計など、広範な抗体開発に取り組む計画です。DeepMind は今年も、対策開発に関連する標的を優先的に扱いながら、AlphaFold タンパク質構造データベースへのタンパク質構造や複合体の追加を続けていくとしています。

Co-Scientist といった新しいエージェントシステムへのアクセス権限も拡大されており、米国エネルギー省国立研究所でジェネシス・ミッションの下で活動する研究者らに提供されています。

Isomorphic Labs はさらに一歩進み、新たな感染症発生時に迅速に薬剤設計エンジンを稼働させるための専任ユニットを設立しました。同社はローレンス・リバモアや英国 AI セキュリティ研究所、CEPI（感染症流行対策イノベーション連合）、フランシス・クリック研究所といった政府機関や国立研究機関と連携して活動しています。また、アジア全域の感染症研究支援を目的とした「Health for Human Potential」プログラムに対し、Philanthropy Asia Alliance の一環として 700 万ドルを提供する方針も示しました。

DeepMind が米国政策担当者に提案した内容は、同社の三大柱に直接対応しており、現在審議中の特定の法案にも依存しています。

予防策については、連邦のフロンティア AI セーフティ・フレームワークの確立を支持するとともに、「AI-Ready Bio-Data Standards Act（H.R. 7907）」や「Biosecurity Modernization and Innovation Act（S. 3741）」に基づく DNA 合成スクリーニングの義務化、そして「SCALE Biology Act（H.R. 8981）」への賛同を表明しています。

検知については、トランジット・ハブや人口密集地でのメタゲノムシーケンシングの拡大を求め、これには「America's Living Library Act（S. 4023）」の支援に加え、早期警戒研究のための DARPA と HHS の追加資金拠出を求めています。

対応策としては、「Web of Biological Data Act（H.R. 9307 / S. 4770）」の実施と、製造能力を「ウォームベース（即時稼働可能な状態）」に維持し、迅速な起動体制を整える投資を提案。さらに、事前に確立された臨床試験ネットワークの活用や、規制承認プロセスの加速も呼びかけています。

これらの法案はいまだ成立しておらず、企業の政策要望と機能する連邦バイオセキュリティ・フレームワークとの間に存在するギャップこそが、今後 6〜12 ヶ月にかけてこのプログラムの真価を問う試金石となるでしょう。

関連記事：Neko Health、AI による全身スキャン拡大のため 7 億ドルの資金調達を実施

本記事「Google DeepMind の AI バイオレジリエンスへの取り組みを検証する」は、元々 AI News で公開されたものです。