エンタープライズにおいて自律型AIエージェントの採用が急拡大する中、誤ったコード公開やデータ削除などのリスクが指数関数的に増大している。オンキスセキュリティは、人間による監視（ヒューマン・イン・ザ・ループ）が非現実的な規模で動作するAIを監督するための「制御平面」を提供し、エージェントの行動を検証・是正する仕組みを構築している。さらに、長期的なAI安全性のためには、モデル内部の構造や思考プロセスを理解する機械的解釈可能性（Mechanistic Interpretability）の研究が不可欠であると強調している。
AI エージェントの普及に伴う「制御」の問題を先取りした、非常に示唆に富むインタビューです。単なるセキュリティ対策ではなく、モデル内部の理解まで視野に入れた長期的な視点が興味深いです。
- 01
自律型エージェントのリスク増大
AutoGPT や GitHub Copilot の登場によりAIエージェントが普及したが、過剰な権限による誤動作やデータ漏洩のリスクが指数関数的に増加している。
- 02
ヒューマン・ループの限界と制御平面
AI 実行数が爆発的に増えるため人間による監視は不可能となり、企業向けにエージェントの行動を検証する専用「制御平面」が必須となる。
- 03
機械的解釈可能性への投資
長期的なAI制御のためには、モデル内部の重みや活性化状態を理解する研究（機械的解釈可能性）が解決策の一部であると確信している。
- 04
イスラエルのセキュリティ・エコシステム
軍事やサイバーセキュリティの経験を持つ人材がAI分野に流入し、現場の運用実態を理解した製品開発が可能となっている。
自律型AIが社会インフラや企業業務を担うようになる中、従来のセキュリティ対策では不十分であり、AI の挙動そのものを監視・制御する「AI ガバナンス」の新たな市場が急成長すると予測される。また、モデル内部の可視化技術への投資は、ブラックボックス化する大規模言語モデルの安全性を担保し、AGI 時代における信頼性の基盤となる重要な技術的転換点である。