イングランド銀行、金融分野における自律型 AI の規制見直しを検討
イングランド銀行は、人間の直接指示を必要としない自律型 AI（Agentic AI）が金融システムに与えるリスク、特にサイバーレジリエンスの観点から既存規制の見直しを開始した。
キーポイント
自律型 AI への規制見直しの必要性
サラ・ブリードン副総裁は、人間の監督を必要とせず自律的に行動する AI エージェントに対し、既存の規制枠組みが不十分であると指摘し、その見直しが必要だと述べている。
サイバーセキュリティリスクの増大
AI ツールは防御力を高める一方で、悪意あるアクターによる攻撃のスケーラビリティを劇的に向上させる可能性があり、金融システム全体の安定性を脅かす重大なリスクと位置づけられている。
オープンソースモデルの急速な追いつき
高度なクローズドモデルとオープンソースモデルの技術格差はわずか 4〜8 ヶ月であり、規制当局が安心できる状況にはないという懸念が示された。
業界における自律型 AI の普及状況
ケンブリッジ大学のレポートによると、金融サービス企業の約半数（52%）がすでに自律型 AI を積極的に導入しており、その適用範囲は取引や業務プロセスに広がっている。
同時多発的混乱への対応強化
当局は複数の金融機関で同時に発生する混乱を想定し、単一障害ではなく大規模な停止を前提とした復旧計画の策定や、他行による機能引き継ぎなどの新たな要件を検討している。
自律型AIによる市場暴走リスク
類似の信号に対して同様の反応を示す自律システムが、目的から逸脱することで市場変動を増幅させる恐れがあり、これを防ぐためのサーキットブレーカーやキルスイッチの導入を検討している。
FSBによるAIガバナンス指針
金融安定理事会（FSB）は、組織全体でのガバナンスや開発・運用段階のリスク管理など12の推奨実践を提示し、特に重要機能における役割と責任の明確化を求めている。
影響分析・編集コメントを表示
影響分析
このニュースは、AI が単なる支援ツールから自律的な意思決定者へと進化することに伴い、金融規制の根本的な見直しを迫る転換点であることを示しています。特にサイバーセキュリティ分野における「攻撃と防御」の両面で AI がもたらすリスクがシステム全体に波及する可能性を強調しており、今後、国際的な協調規制や技術基準の策定が急務となるでしょう。
編集コメント
自律型 AI の実用化が加速する中、規制当局が「人間の監督」の限界を認め、システム全体のリスク管理へ視点をシフトした点は極めて重要です。特にサイバー攻撃の自動化とオープンソースモデルの急速な普及は、金融インフラを守る上で新たなパラダイムシフトを迫る課題です。
イングランド銀行は、決済、取引、サイバーセキュリティ、運用を含む金融分野におけるアジェンティック AI の利用を既存の規則がカバーできるかどうかを検討している。
サラ・ブリードン副総裁は、人間の直接指示なしに行動できる AI エージェントのために設計されたものではない既存の規制枠組みについて言及した。ポルトガルの中央銀行フォーラムで講演した彼女は、これらのシステムによるすべての行動に対して人間の監督を依存することは実際的ではない可能性が高いと述べた。
ブリードンは、現在の枠組みは決済、取引、運用機能における自律型エージェントを想定して構築されたものではないと語った。
アジェンティック AI が金融ワークフローに参入
アジェンティック AI とは、意思決定を行い、タスクを独立して実行できるシステムを指す。金融分野では、このようなシステムはすでに製品推奨、運用ワークフロー、取引関連のタスクなどの領域で使用されている。
アジェンティック・システムは、より少ない直接人間の監督で目標を追求し意思決定を行うことができる点で、従来の自動化された取引ツールとは異なる。ブリードンは、これらのシステムが類似したデータで訓練されたり、類似した目標を中心に設計されたりした場合、同様の方法で行動する可能性があると述べた。
ブリードンは、サイバー脆弱性を特定するための AI モデルにおける最近の進展は能力の変化を示していると語った。彼女は、アジェンティック AI システムがスケーラブルかつ高速に一連のアクションを連鎖させることができる点について言及した。
2026 年のケンブリッジ代替金融センターによる報告書では、調査対象となった金融サービス企業の 81% が何らかのレベルで AI を導入していることが明らかになりました。また、業界関係者の 52% がすでに能動的に「エージェント型 AI（agentic AI）」を採用していることも判明しています。
報告書によると、現在の利用は主に内部機能に焦点を当てており、プロセス自動化、データ可視化、ソフトウェアエンジニアリング、知識管理などが含まれます。ブリード氏は、取引における利用はまだ主に低リスクの業務タスクに集中していると述べました。
BoE がサイバーレジリエンスのリスクを指摘
ブリード氏は、サイバーレジリエンス（cyber resilience）を、エージェント型 AI に関するイングランド銀行が最も懸念する金融安定性の課題の一つと説明しました。彼女は、この技術はサイバー能力において「飛躍的な変化」を遂げたと述べ、監督当局は個々の企業だけでなく、金融システム全体にわたるリスクを検討する必要があると強調しました。
彼女は、セキュリティチームによって使用される場合、AI ツールはサイバー防御力を強化できると指摘しました。その上で、悪意のある行為者によって使用された場合、同じツールが金融安定性を損なう攻撃の発生確率を高めるという即時的なリスクがあると付け加えました。
ブリード氏はまた、オープンソースモデルは最も高度なクローズドモデルに比べてわずか 4 か月から 8 ヶ月遅れている可能性があると指摘しました。彼女は、一部の高度なモデルの公開に対する制限があるにもかかわらず、これにより当局が得られる安心感は限定的であると述べました。
IMF はまた、AI を活用したサイバーリスクは金融安定性の課題として扱うべきだと警告しています。同氏は、攻撃が急速に拡大し、デジタルインフラを共有するセクター間で広がり、複数の機関が同時に影響を受ける場合、より広範な混乱を引き起こす可能性があるとしています。
ブリードンは当局に対し、複数の企業で同時発生する混乱により大きな重みを置くべきだと指摘し、そのような事態が発生する前に想定される影響についてストレステストを行うよう求めました。また、復旧計画においても、単一の障害だけでなく、大規模な混乱を考慮する必要があると述べています。
イングランド銀行は、中核システムに対するより強力な復旧要件を検討しています。一つの選択肢として、停止や故障時に他の銀行が基本機能を引き継ぐことを認める案があります。
その他の選択肢としては、企業の核心システムが侵害された場合でも重要なサービスが継続できるようする仕組みが含まれます。ブリードンはまた、主要企業が別々のフェイルオーバーシステムを備えるべきか、あるいは侵害された中核システムを迅速に再構築できる能力を持つべきかどうかについても問いかけました。
中央銀行の報道によると、国際通貨基金（IMF）の資本市場部門の財務顧問兼ディレクターであるトビアス・アドリアンも、AI がサイバーレジリエンスに対して深刻なリスクをもたらすと指摘しています。IMF は別途、広く使用されているシステムが標的となった場合、共有ソフトウェア、クラウドサービス、決済ネットワーク、データネットワークが相関した障害を引き起こす可能性があるとも警告しています。
規制当局は市場のセーフガードを検討中
Breeden氏は、規制当局もガードレール、サーキットブレーカー、キルスイッチを検討していると述べた。これらのツールは、欠陥のあるAIモデルが深刻な混乱を引き起こした場合に、市場全体での取引を制限または停止するために設計されるものである。
Breeden氏は、自律システムが同じ市場シグナルに対して同様の反応を示す場合、特にその目的が本来の目的や公共政策目標から逸脱している場合には、ボラティリティを増幅させる可能性があるとも述べた。
イングランド銀行は以前、既存の規則でAI関連リスクを管理するには十分であると述べていた。しかしBreeden氏は、最近の進展により現在の枠組みに欠陥が露呈したと指摘した。
グローバル規制当局がAIセーフガードを見直す
金融安定理事会（FSB）は6月初旬、AIエージェントが人間の監督にとって独自の課題をもたらすと述べ、より強力なセーフガードを呼びかけた。
FSBの6月の諮問では、金融機関による責任あるAI導入のための12の推奨される健全な慣行が示された。これらの慣行には、組織全体のガバナンス、開発および展開全体にわたるAIリスク管理、ならびにAIに関連するサイバー、ICT（情報通信技術）、第三者リスクが含まれる。
FSBは、これらの慣行が拘束力のある国際基準を創出することを意図していないと述べた。また、企業がAIを使用する際、特にその技術が重要または重要な機能で使用される場合には、明確な役割と責任を定義すべきであるとも指摘した。
ブリード氏は、金融機関が自律型システムをより多くの分野で使用しても回復力を維持できるよう、イングランド銀行の焦点はそこにあると述べた。今回の見直しでは、各企業のレベルでの統制と市場全体のセーフガードを対象としている。
関連記事：HSBC が Google Cloud と AI 銀行提携を拡大
業界のリーダーから AI やビッグデータについてさらに学びたい方は、アムステルダム、カリフォルニア、ロンドンで開催される「AI & Big Data Expo」をご覧ください。この包括的なイベントは TechEx の一部であり、他の主要なテクノロジーイベントと併催されています。詳細はこちらをクリックしてください。
AI News は TechForge Media によって提供されています。その他の今後のエンタープライズ技術関連のイベントやウェビナーはこちらからご覧ください。
本記事「イングランド銀行が金融分野における自律型 AI のルールを見直し」は、元々 AI News に掲載されたものです。
原文を表示
The Bank of England is reviewing whether existing rules can cover the use of agentic AI in finance, including payments, trading, cybersecurity, and operations.
Deputy Governor Sarah Breeden said existing regulatory frameworks were not designed for AI agents that can act without direct human instruction. Speaking at the European Central Bank Forum on central banking in Portugal, she said relying on human oversight for every action by these systems is unlikely to be practical.
Breeden said current frameworks were not built to contemplate autonomous agents in payments, trading, and operational functions.
Agentic AI enters financial workflows
Agentic AI refers to systems that can make decisions and carry out tasks independently. In finance, such systems are already being used in areas such as product recommendations, operational workflows, and trading-related tasks.
Agentic systems differ from traditional automated trading tools because they can pursue objectives and make decisions with less direct human supervision. Breeden said these systems could act in similar ways if they are trained on similar data or designed around similar goals.
Breeden said recent advances in AI models for identifying cyber vulnerabilities show a change in capability. She said agentic AI systems can chain together sequences of actions at scale and speed.
A 2026 Cambridge Centre for Alternative Finance report found that 81% of surveyed financial services firms are adopting AI at some level. It also found that 52% of industry respondents are already actively adopting agentic AI.
The report said most current use remains focused on internal functions, including process automation, data visualisation, software engineering, and knowledge management. Breeden said use in trading is still mostly concentrated in lower-risk operational tasks.
BoE flags cyber resilience risks
Breeden described cyber resilience as one of the Bank of England’s closest financial stability concerns around agentic AI. She said the technology has undergone a “step change” in cyber capability and that supervisors need to look at risks across the financial system rather than only at individual firms.
She said AI tools can strengthen cyber defences when used by security teams. The immediate risk, she added, is that the same tools could increase the chance of attacks that harm financial stability if used by malicious actors.
Breeden also noted that open-source models may trail the most advanced closed models by only four to eight months. She said this gives authorities only limited comfort, despite restrictions on the release of some advanced models.
The IMF has also warned that AI-enabled cyber risk should be treated as a financial stability issue. It said attacks can scale quickly, spread across sectors that share digital infrastructure, and create wider disruption if several institutions are affected at once.
Breeden said authorities should place greater weight on simultaneous disruption across several firms and stress-test the likely impact before such events occur. She said recovery planning may also need to account for mass disruption, rather than only isolated outages.
The Bank of England is considering stronger recovery requirements for core systems. One option is to allow one bank to take over another bank’s basic functions during an outage or failure.
Other options include arrangements that allow critical services to continue if a firm’s core systems are compromised. Breeden also raised the question of whether key firms should have separate failover systems or the ability to rebuild compromised core systems quickly.
Tobias Adrian, financial counsellor and director of the International Monetary Fund’s capital markets department, also said AI poses serious risks to cyber resilience, according to Central Banking. The IMF has separately warned that shared software, cloud services, payment networks, and data networks can create correlated failures if widely used systems are targeted.
Regulators consider market safeguards
Breeden said regulators are also looking at guardrails, circuit breakers, and kill switches. These tools would be designed to limit or stop trading across markets if faulty AI models contribute to severe disruption.
Breeden said autonomous systems could amplify volatility if they respond in similar ways to the same market signals, especially if their objectives drift from their original purpose or from public policy goals.
The Bank of England has previously said existing rules were sufficient to manage AI-related risks. Breeden said recent developments have exposed gaps in current frameworks.
Global regulators review AI safeguards
The Financial Stability Board said earlier in June that AI agents pose a distinct challenge for human oversight and called for stronger safeguards.
The FSB’s June consultation set out 12 proposed sound practices for responsible AI adoption by financial institutions. The practices cover organisation-wide governance, AI risk management across development and deployment, and AI-related cyber, ICT, and third-party risks.
The FSB said the practices are not intended to create a binding international standard. It also said firms should define clear roles and responsibilities when using AI, especially when the technology is used in critical or material functions.
Breeden said the Bank of England’s focus is on ensuring that financial firms remain resilient as autonomous systems are used in more areas. The review covers firm-level controls and market-wide safeguards.
See also: HSBC expands AI banking partnership with Google Cloud
Want to learn more about AI and big data from industry leaders? Check out AI & Big Data Expo taking place in Amsterdam, California, and London. The comprehensive event is part of TechEx and is co-located with other leading technology events, click here for more information.
AI News is powered by TechForge Media. Explore other upcoming enterprise technology events and webinars here.
The post Bank of England reviews AI rules for agentic AI in finance appeared first on AI News.
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み