大規模言語モデルと生物学的リスク

**LLMと生物学的リスク（バイオリスク）に関する要約** Anthropic社は、AIが生物学や医学を含む科学の発見を促進し、人類の状態を改善する可能性を追求している。実際に、研究データの構造化や実験設計の自動化など、研究を加速するためのClaudeの活用事例が存在する。 しかし同時に、AIは本質的に「両刃の剣」である。科学者や革新者に約束をもたらすのと同じ能力が、悪意のある行為者によって悪用される可能性を特定し、測定し、軽減することが、責任あるAI開発の重要な原則である。 同社が最先端モデル「Claude Opus」をリリースした際、化学・生物・放射能・核（CBRN）兵器開発に関連する特定のタスクを支援しないよう焦点を絞った「AI安全レベル3（ASL-3）」保護を導入した。これは予防的な決定であった。評価におけるモデル性能の向上により、基礎的なSTEM（科学・技術・工学・数学）知識を持つ人物が、このような兵器開発を試みた場合に、その能力を高める可能性を自信を持って否定できなくなったためである。潜在的な結果の重大性を鑑み、評価と安全対策の主要な初期焦点は生物兵器に置かれた。 注目すべきは、最先端AIラボが発表するすべての安全フレームワークが、何らかの形でバイオリスクに言及している点である。これは直感的にはわかりにくいかもしれない。なぜなら、最先端の大規模言語モデル（LLM）は生物学的応用に特化したものではなく（AlphaFoldなどの他の基盤モデルとは異なり）、汎用モデルであるからだ。この汎用性ゆえに、優先すべき他の多くのセキュリティ脅威が存在する。したがって、AIの安全保障への影響を考える際に、バイオリスクを優先することに対して懐疑的になるのも理解できる。 Anthropic社の目的は恐怖心をあおることではなく、AIとバイオリスクの議論は「発生確率は低いが、影響が甚大」なシナリオに分類されるという認識を示すことにある。むしろ、これらのリスクを評価し、対策を講じることが、責任あるAI開発の重要な要素であると考える理由を明確にしたいのである。 **では、AIが危険な兵器とどう関わるのか？** 懸念は、AIが歴史的な情報通信技術と「類似している点」と「異なる点」の両方において、悪意のある行為者の兵器の取得や開発を支援する可能性にある。 近年、テロリストグループは暗号化通信、暗号資産、ソーシャルメディアなどの技術を急速に採用してきた。AIについても同様のことが起こると予想される。兵器の製造方法に関する情報探求が、過去には図書館や専門書から、後にインターネットフォーラムへと移行したように、AI言語モデルが次の「情報源」となる可能性が高い。AIは、既存のオンライン情報へのアクセスを単に容易にするだけでなく、情報の統合、要約、調整、さらには新たな実験計画の提案を通じて、悪意のある行為者の「能力増幅器」として機能しうる。これが歴史的技術との決定的な違いである。 したがって、最先端AI企業は、自社のモデルがバイオリスクを悪用する能力を高めていないか、また、そのような悪用を防ぐための効果

大規模言語モデルと生物学的リスク

背景や根拠まで確認しますか？

調べる

選ぶ

サイト

背景や根拠まで確認しますか？

ニュースの次に確認する

調べる

選ぶ

サイト