Developing Nuclear Safeguards for AI｜AIのための核安全保障策の開発

# AIの核安全保障対策の構築：官民連携による取り組み 核技術は本質的に両義性を有しており、原子炉を動かすのと同じ物理原理が兵器開発に悪用される可能性がある。AIモデルの能力が高度化する中、国家安全保障を脅かす危険な技術知識をユーザーに提供し得るかどうかを注視する必要が生じている。 核兵器関連情報は特に機微であり、民間企業単独でこれらのリスクを評価することは困難である。このため、昨年4月に米国エネルギー省（DOE）傘下の国家核安全保障局（NNSA）と連携し、自社モデルの核拡散リスクを評価する取り組みを開始した。現在も継続的に共同評価を進めている。 現在はリスク評価を超え、監視に必要なツールの構築に着手している。NNSAおよびDOEの国立研究所と共同で、核関連の会話を「懸念すべきもの」と「無害なもの」に自動分類するAIシステム（分類器）を開発した。予備テストでは96%の精度を達成している。 この分類器は既に自社AI「Claude」のトラフィック監視に導入され、モデルの悪用を識別する広範なシステムの一部として機能している。初期の導入データは、実際のClaudeの会話においても分類器が有効に作動することを示唆している。 この取り組みのアプローチは、先進的AI企業による業界団体「フロンティアモデルフォーラム」とも共有される予定である。本連携が一つのモデルケースとなり、他のAI開発者もNNSAと協力して同様の安全保障措置を実施できるようにすることが期待されている。 先端AIモデルの核悪用防止という具体的な重要性に加え、この画期的な取り組みは官民連携の有効性を実証している。産業界と政府の相補的な強みを組み合わせることで、リスクに正面から対処し、全てのユーザーにとってより信頼性の高いAIモデルの実現を目指す。 連携においては、リスクの特定に留まらず、その対処法の開発まで進めた。NNSAスタッフが安全な環境でClaudeモデルに対して1年間にわたり「レッドチーミング」（模擬攻撃）を実施した後、リスク軽減策の共同開発が開始された。 レッドチーミングの知見に基づき、NNSAは核兵器開発に関連する潜在的に懸念すべき会話と、核エネルギー、医療、政策などに関する無害な議論とを区別するために設計された、注意深く選定された核リスク指標のセットを提供した。重要な点は、このリストは機密レベルが調整されており、開発チームと共有可能であり、防御策構築に直接活用できたことである。 自社の政策・安全保障チームはこのリストを基に、危険な核関連の問い合わせをリアルタイムで識別する分類器を開発した。分類器は、メールのスパムフィルターを支える仕組みと同様に、専門的な「ラベリング」を行うシステムである。スパムの代わりに、潜在的に有害な会話を識別し、正当な議論は許可する役割を果たす。 このように、官民がそれぞれの専門性を持ち寄る協力体制が、AIの安全保障という複

AIのための核安全保障策の開発

背景や根拠まで確認しますか？

調べる

選ぶ

サイト