Securing AI systems under today’s and tomorrow’s conditions｜現在および将来の状況下におけるAIシステムのセキュリティ確保 | AIニュース最前線

Utimaco [email wall]が発行したeBook『AI Quantum Resilience』で引用された調査によると、組織は、自社が保有するデータへのAI効果的な導入における主要な障壁としてセキュリティリスクを認識している。 AIの価値は組織が蓄積したデータに依存する。しかし、そのデータを用いてモデルを構築し訓練することにはセキュリティリスクが伴う。これらのリスクは、推論時点（例えばプロンプトエンジニアリング）に存在する、より広く知られた知的財産への脅威に加わるものである。 同eBookの著者らは、組織はAIの開発および実装プロセス全体を通じて脅威を管理する必要があると述べている。同時に、企業はセキュリティプロトコルを変更する準備を整えることができ、また整えるべきである。量子コンピューティングを利用した復号化ツールが悪意ある行為者に容易に利用可能となった場合、これらの変更は必須となるだろう。 Utimacoは脅威にさらされる3つの領域を挙げている： 1. 訓練データは悪意ある行為者によって操作され、検出が困難な方法でモデル出力を劣化させる可能性がある。 2. モデルは抽出または複製され、知的財産権を侵害する可能性がある。 3. 訓練または推論中に使用される機密データが暴露される可能性がある。 報告書の著者らは、現在の公開鍵暗号は今後10年間で脆弱になるだろうと断言している。これは、実用レベルの量子システムが出現する可能性がある期間である。時期に関わらず、より組織化されたグループが現在、暗号化されたデータを収集し、量子コンピューティング施設が利用可能になった時（あるいは、もし利用可能になった場合）に復号するために保存していると考えられている。Utimacoは、モデル訓練データ、財務記録、知的財産を含む、長期的な機密性を持つあらゆるデータセットは、将来の復号化に対する保護を必要とする可能性があると述べている。 量子耐性暗号への移行は、プロトコル、鍵管理、システムの相互運用性、およびパフォーマンスに影響を与えるため、いかなる移行も数年を要する可能性が高い。報告書の著者らは「暗号俊敏性」を提案しており、これは基盤システムを再設計することなく暗号アルゴリズムを変更する能力と定義される。「暗号俊敏性」は、確立されたアルゴリズムとNISTが提案するようなポスト量子方式を組み合わせる、ハイブリッド暗号の原則に基づいている。 同eBookの著者らは、暗号技術単体では考えられるすべてのリスク領域に対処できないことに同意している。そして、暗号鍵と機密操作を通常の作業環境から隔離できる、ハードウェアベースの信頼デバイスの使用を提唱している。 企業が独自のAIツールとプロセスを開発している場合、その基盤に基づく保護は、データ取り込みから訓練、モデルデプロイ、そして本番環境での推論に至るまで、AIライフサイクル全体に拡張されるべきである。データを暗号化しモデルに署名するために使用されるハードウェア鍵は、保護された境界内で生成・保存することができる。これにより、デプロイ前にモデルの完全性を検証でき、推論中に処理される機密データは保護されたままとなる。 ハードウェアベースのエンクレーブはワークロードを隔離するため、十分な権限を持つシステム管理者でさえ、処理中のデータにアクセスできない。ハードウェアモジュールは、鍵を解放する前にデータエンクレーブが信頼できる状態にあることを検証できる。これは外部認証のプロセスであり、ハードウェアからアプリケーションへの「信頼の連鎖」の構築を支援する。 ハードウェアベースの鍵管理は、アクセスと操作を記録した改ざん耐性のあるログを生成し、EU AI法などのコンプライアンスフレームワークへの対応を支援する。 AIシステムに内在するリスクの多くは、まだ悪用されていなくともよく知られている。現在安全とみなされているデータを復号化する量子コンピューティングの能力に起因するリスクは差し迫ったものではないが、その影響は今日なされるデータとインフラに関する決定に考慮されるべきである、とUtimacoは述べている。同社は以下を提唱している： 1. AI開発およびデプロイのライフサイクル全体における管理の強化 2. ポスト量子セキュリティへの移行を可能にする「暗号俊敏性」の導入 3. 高価値資産が関与するあらゆる場所でのハードウェアベースの信頼メカニズムの確立 (画像ソース: "Scanning electron micrograph of an apoptotic HeLa cell" by National Institutes of Health (NIH) is licensed under CC BY-NC 2.0. To view a copy of this license, visit https://creativecommons.org/licenses/by-nc/2.0) ![image](https://www.artificialintelligence-news.com/wp-content/uploads/2025/08/ai-expo-banner-2025.png) 業界リーダーからAIとビッグデータについてもっと学びたいですか？アムステルダム、カリフォルニア、ロンドンで開催されるAI & Big Data Expoをご覧ください。この包括的なイベントはTechExの一部であり、他の主要なテクノロジーイベントと併設されています。詳細はこちらをクリックしてください。 この投稿 Securing AI systems under today’s and tomorrow’s conditions は AI News に最初に掲載されました。

現在および将来の状況下におけるAIシステムのセキュリティ確保

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト