米下院情報委員会、AI の「ブラックスワン」リスクに警告し諜報機関に備えを促す

People walk by One World Trade, otherwise known as the Freedon Tower, which is located on the land where the Twin Towers once stood before they were destroyed in the attacks on September 11, 2001 on September 09, 2024 in New York City.

Spencer Platt | Getty Images

米下院情報常設委員会は、テロリストや敵対勢力がより危険な兵器の開発や致命的な攻撃の計画に人工知能（AI）を利用する可能性を指摘し、諜報機関に対し「ブラックスワン」と呼ばれる AI 関連リスクへの備えを強化するよう求めた。同委員会の新たな報告書では、この技術が悪用される恐れがあるとして警告を発している。

「委員会としては、知能コミュニティおよび広範な政策決定者が、テロリストを含む悪意のある行為者による AI ツールの濫用を防ぐ方法を慎重に検討する必要がある」と報告書は述べています。この文書は、2001 年 9 月 11 日の同時多発テロ攻撃へとつながった知能情報の失敗に対処するための過去 25 年間の米国の取り組みを評価するために作成されました。

「テロリスト集団が大量破壊兵器の製造・使用に必要な設備や専門知識へのアクセスを獲得するのを防ぐことは、9/11 以降、IC（情報コミュニティ）および国家安全保障体制にとって重要な重点事項となってきました」と報告書は指摘しています。「最先端の大規模言語モデルは、テロリストを含むあらゆる悪意のある行為者がより破壊的な攻撃を開発・実行することを著しく容易にする可能性があります」。

AI の持つ破壊的潜在能力に関する警告とこの報告書の発表は、数千人の犠牲者を出し米国の安全保障体制を根本から変えた 9/11 テロ攻撃から 25 周年を迎えるわずか 2 週間前のタイミングで行われました。他方で AI は急速に進展し、莫大な経済活動を生み出しており、これにより議員や政府高官たちは技術規制に関する困難な課題と向き合わざるを得なくなっています。

この報告書は、共和党のリック・クロフォード下院情報委員長（アーカンソー州選出）と民主党のジム・ハイムズ筆頭理事（コネチカット州選出）、そしてエリザベス・ステファニク議員（ニューヨーク州選出）およびジョシュ・ゴッタイマー議員（ニュージャージー州選出）によって執筆されました。彼らは、既存の安全対策では AI の急速な進展に対応しきれない可能性があると警告しています。

「AI ラボは、生物兵器の構築など悪意ある行為に資する情報をモデルが返さないよう防止しようとしていますが、モデルの基礎的な能力は急速に発展しており、そのような利用を完全に制御することは困難です」と議員らは記しました。

議員らは情報コミュニティに対し、「米国が敵対国に先んじるためにも、先進的な AI 能力の責任ある採用を加速させるべきだ」と要請しました。また、次世代の脅威に対処するには、「収集、分析、警告のための安全な AI ツール」への投資と、厳格なテスト、人的監督、そして強力なプライバシーおよび市民的自由保護の組み合わせが不可欠であると指摘しています。

同委員会は全体的に、米国は「2001 年 9 月 11 日以来で最も複雑かつ危険な脅威環境に直面している」と結論付けました。

「これらの脆弱性に対処し解決する能力には依然として深刻な欠陥が残っています。我々はこれらの脆弱性に適切に対処できる準備ができていません」と、報告書は述べています。