2026年2月18日社会的影響実践におけるAIエージェントの自律性測定

**AIエージェントの自律性を実践的に測定：利用実態とリスク管理への示唆** AIエージェントは既に現実に導入され、メールの仕分けからサイバー諜報活動まで、結果の重大さが大きく異なる多様な文脈で展開されている。AIを安全に導入するためには、この多様性を理解することが極めて重要だが、人々が実際にエージェントをどのように使用しているかについては、驚くほど知見が少ない。 本研究では、プライバシー保護ツールを用いて、Claude Codeおよび公開APIにおける数百万件の人間とエージェントのインタラクションを分析し、以下の問いを探った：人々はエージェントにどれだけの自律性を与えているか？ それは経験の蓄積とともにどう変化するか？ エージェントはどの領域で動作しているか？ エージェントが行う行動にリスクはあるか？ 主な発見は以下の通りである。 1. **Claude Codeの自律動作時間の長期化**：最も長時間動作するセッションにおいて、Claude Codeが停止前に動作する時間は、3ヶ月で25分未満から45分以上へとほぼ倍増した。この増加はモデル更新に関わらず滑らかに進行しており、単なる能力向上の結果ではなく、既存のモデルも実践では発揮されていないより高い自律性の潜在能力を持つことを示唆している。 2. **経験豊富なユーザーの行動パターン**：Claude Codeのユーザーは経験を積むにつれ、各行動を逐一確認するのをやめ、必要時にのみ介入しながらエージェントを自律動作させる傾向が強まる。新規ユーザーの約20%のセッションが完全自動承認を使用するのに対し、経験を積むとその割合は40%以上に増加する。 3. **エージェント自身による確認の頻発**：人間が中断する以外に、エージェント自身が停止して明確化を求めることも、実運用システムにおける重要な監督形態である。最も複雑なタスクでは、Claude Codeが確認のために停止する頻度は、人間がそれを中断する頻度の2倍以上に上った。 4. **リスクの高い領域での使用は限定的**：公開API上のエージェント行動の大半は、リスクが低く可逆的であった。エージェント活動の約50%はソフトウェア工学が占めたが、医療、金融、サイバーセキュリティといった領域での使用も萌芽的に確認された。 本研究の中心的な結論は、エージェントを効果的に監督するためには、**導入後の監視インフラの新たな形態**と、人間とAIが共同で自律性とリスクを管理することを助ける**新たな人間-AIインタラクションのパラダイム**が必要であるという点である。 AIエージェントの研究は、定義の不一致、急速な進化、データ収集の難しさといった課題に直面している。本研究は、人々がどのようにエージェントを導入・使用しているかを実証的に理解するための小さなだが重要な第一歩と位置づけられる。エージェントの普及が進む中、手法の改良と知見の発信を継続していくことが肝要である。

2026年2月18日社会的影響実践におけるAIエージェントの自律性測定

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト