社会への影響
この記事は、様々な要因や出来事が社会全体に及ぼす影響について考察しています。
キーポイント
Anthropicが「社会影響」チームを設置し、AIの実社会での利用・価値観・リスクを技術的に研究している
大規模実証研究により、AIが仕事の性質を根本的に変え、Claudeは文脈に応じて価値観を適応・抵抗することを発見
公衆参加型の「集団憲法AI」やインタビューツールなど、政策関連の研究手法を開発・実践している
AI能力の予測可能性と不可予測性の緊張関係が政策に重大な意味を持つと指摘
影響分析・編集コメントを表示
影響分析
この記事は、AI開発者が自社モデルの社会的影響を体系的に研究・公開する新たな規範を示しており、業界の責任ある開発への圧力を高める可能性がある。特に、実世界での価値観の適応や公衆参加型アライメント手法は、今後のAIガバナンスと規制議論に直接影響を与える重要な知見を提供している。
編集コメント
AI企業が自ら社会的影響を研究・公開する姿勢は、透明性向上の重要な一歩。特に「価値観の適応」発見は、AIの振る舞い制御の難しさを実証しており、規制議論に燃料を投じる内容だ。
AIの社会的影響を探求するアンソロピックの研究チーム
アンソロピック社内には、「Societal Impacts」（社会的影響）と呼ばれる技術研究チームが存在する。このチームは、政策・安全保障チームと緊密に連携し、AIが現実世界でどのように利用され、社会にどのような影響を与えるかを探求している。その核心的な問いは、AIモデルが持つべき人間的価値観とは何か、相反する価値観に直面した際にどう振る舞うべきか、実際のAIの利用（および誤用）の実態、そして将来の利用法とリスクをどう予測するか、といった点にある。
同チームは技術的なアプローチを基盤としつつも、政策に関連する研究課題を積極的に選ぶ。政策立案者が関心を持つトピックについて信頼性の高い研究を提供することが、より良い政策、ひいては社会全体のより良い成果につながると信じている。
具体的な研究活動としては、社内のソフトウェア開発者を対象とした調査や詳細なインタビュー、Claude Codeの利用データ分析を通じて、AIが仕事の本質を根本的に変えつつあることを明らかにした。また、Claudeを駆使した自動インタビューツール「Anthropic Interviewer」を開発し、1,250人のプロフェッショナルからAIとの仕事に関する大規模な定性データを収集している。
さらに、70万件に及ぶ実際の対話を分析した研究「Values in the wild」では、Claudeが表現する価値観を初めて大規模に実証的に分類した。その結果、Claudeは文脈に応じて表現する価値観を適応させ、多くの場合ユーザーに同調する一方で、核心的な原則が危機に瀕する場合には抵抗するという、複雑な振る舞いを示すことが分かった。
他にも、約1,000名のアメリカ市民から公的な意見を募り、AIシステムのための「憲法」を起草してモデルを訓練する「Collective Constitutional AI」プロジェクトや、大規模生成AIモデルの能力が予測可能性と不可予測性の緊張関係にあることを論じた研究など、多岐にわたる活動を行っている。
これらの研究は、AIが仕事（ソフトウェア開発、教育など）をどう変容させているか、人々が支援や助言、伴侶としてAIをどう利用しているか、AIエージェントの自律性をどう測るかといった、具体的な社会への影響を継続的に測定・分析する取り組みとして進められている。アンソロピックのSocietal Impactsチームは、技術的探求と政策的視座を融合させ、AIの社会的統合に伴う課題の解明に貢献しようとしている。
原文を表示
Back to OverviewSocietal Impacts
Working closely with the Anthropic Policy and Safeguards teams, Societal Impacts is a technical research team that explores how AI is used in the real world.
Which human values should AI models hold, and how should they operate in the face of conflicting or ambiguous values? How is AI used (and misused) in the wild? How can we anticipate future uses and risks of AI? Societal Impacts researchers develop experiments, training methods, and evaluations to answer these questions.
Though the Societal Impacts team is technical, they often pick research questions that have policy relevance. They believe that providing trustworthy research concerning topics policymakers care about will lead to better policy (and overall) outcomes for everyone.
How AI is transforming work at Anthropic
We surveyed Anthropic engineers and researchers, conducted in-depth qualitative interviews, and studied internal Claude Code usage data to find out how AI use is changing how we do our jobs. We found that AI use is radically changing the nature of work for software developers.
Introducing Anthropic Interviewer: What 1,250 professionals told us about working with AI
We built an interview tool called Anthropic Interviewer. Powered by Claude, Anthropic Interviewer runs detailed interviews automatically and at unprecedented scale.
Values in the wild: Discovering and analyzing values in real-world language model interactions
What values does Claude actually express during real conversations? Analyzing 700,000 interactions, this paper creates the first large-scale empirical taxonomy of AI values and finds that Claude adapts its expressed values to context—mirroring users in most cases, but resisting when core principles are at stake.
Collective Constitutional AI: Aligning a Language Model with Public Input
Anthropic and the Collective Intelligence Project ran a public process with ~1,000 Americans to draft a constitution for an AI system, then trained a model on it.
Predictability and Surprise in Large Generative Models
Large models have predictable loss via scaling laws but unpredictable capabilities. This tension has significant policy implications.
DateCategoryTitleFeb 18, 2026Societal ImpactsMeasuring AI agent autonomy in practice
Dec 4, 2025Societal ImpactsIntroducing Anthropic Interviewer: What 1,250 professionals told us about working with AI
Dec 2, 2025Societal ImpactsHow AI is transforming work at Anthropic
Aug 27, 2025Societal ImpactsAnthropic Education Report: How educators use Claude
Jun 27, 2025Societal ImpactsHow people use Claude for support, advice, and companionship
Apr 28, 2025Societal ImpactsAnthropic Economic Index: AI’s impact on software development
Apr 21, 2025Societal ImpactsValues in the wild: Discovering and analyzing values in real-world language model interactions
Apr 8, 2025AnnouncementsAnthropic Education Report: How university students use Claude
Mar 27, 2025Societal ImpactsAnthropic Economic Index: Insights from Claude 3.7 Sonnet
Feb 10, 2025Societal ImpactsThe Anthropic Economic Index
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み