AI があなたに伝える内容を誰が決定するのか？元メタニュース責任者キャンベル・ブラウンの考え
元メタニュース責任者のキャンベル・ブラウンが、AI の情報提供におけるバイアスと精度の問題に対処するため、専門家を交えたベンチマーク評価システム「Forum AI」を立ち上げたと報じられる。
キーポイント
Forum AI の設立と目的
元メタニュース責任者のキャンベル・ブラウンが、地政学やメンタルヘルスなど複雑な事象におけるAIの精度を評価する「Forum AI」を設立し、専門家が設計したベンチマークを用いてモデルを評価している。
専門家による評価基準の構築
ニール・ファーガソンやケビン・マッカーシーなど多様な政治・軍事・セキュリティの専門家を招聘し、AI 判定器が人間专家と約90%の合意に達するようトレーニングを行っている。
現在のAIモデルにおける課題
Gemini が中国共産党関連サイトから無関係な情報を引用したり、左派バイアスや文脈欠落などの問題が指摘されており、現状のモデルは「正確さ」よりもコードや数学への集中が優先されていると批判している。
エンゲージメント最適化の教訓
Facebook 時代の失敗（ファクトチェックプログラムの廃止など）から、エンゲージメントを最優先するアルゴリズムは社会に悪影響を与え、情報格差を広げるという教訓を引き出している。
企業需要による真実性の最適化
融資や採用などの業務利用において、企業の責任問題意識からAIが「正解」を出すよう最適化するインセンティブが生まれる可能性があり、これが真実性を高める鍵となる。
現状のコンプライアンス評価の不備
現在の市場はチェックボックス式の監査や標準化されたベンチマークに満足しているが、実際には重大な違反が見逃されており、専門知識と時間のかかる詳細な評価が必要である。
業界と消費者の認識ギャップ
テック企業のリーダーはAIの未来を語っている一方、一般ユーザーは誤った回答や低品質な情報（slop）に直面しており、信頼性が極めて低い状況にある。
影響分析・編集コメントを表示
影響分析
この記事は、生成AIの普及に伴い浮き彫りになった「情報の質」と「バイアス」の問題に対し、業界内から具体的な解決策（専門家の介入と厳格なベンチマーク）が提唱されたことを示しています。メタのような巨大プラットフォームの元幹部が参入したことは、AI の信頼性確保が単なる技術課題ではなく、社会インフラとしての倫理的・政策的課題へと昇華していることを意味し、今後のモデル開発や規制議論に大きな影響を与える可能性があります。
編集コメント
AI の「正しさ」を評価する第三者機関の必要性が、元プラットフォーム運営者の視点から強く訴えられています。技術的な性能だけでなく、社会への影響を考慮した開発パラダイムシフトの兆候と言えます。
キャンベル・ブラウンは、そのキャリアを通じて正確な情報の追求に努めてきました。まず著名なテレビジャーナリストとして、次にフェイスブックの初代かつ唯一の専任ニュース責任者としてです。今、AI が人々の情報消費方法を変容させるのを傍観する中で、彼女は歴史が繰り返されつつあると危惧しています。今回は、誰かが修正してくれるのを待つのではありません。
彼女の会社である Forum AI は、サンフランシスコで開催された StrictlyVC のイブニングイベントで TechCrunch のティム・フェルンホルツ氏とのインタビューで言及されましたが、「ハイリスクなトピック」におけるファウンデーションモデルの性能を評価するものです。彼女がそう呼ぶのは、地政学、メンタルヘルス、金融、採用といった分野です。これらは「明確な yes または no の答えが存在せず、不透明でニュアンスに富み、複雑な」主題です。
このアイデアは、世界の第一人者を見つけ、彼らにベンチマークを設計させ、その後 AI 判定者を訓練して大規模にモデルを評価することにあります。Forum AI の地政学に関する取り組みにおいて、ブラウンはニール・ファーガソン、ファリード・ザカリア、元国務長官のトニー・ブリンケン、元下院議長ケビン・マッカーシー、そしてオバマ政権でサイバーセキュリティを率いたアン・ヌーバーガーを招聘しました。その目標は、AI 判定者がこれらの人間専門家と約 90% の合意に達することです。彼女は、Forum AI がこの閾値を達成できていると言います。
ブラウンは、17 ヶ月前にニューヨークで設立されたフォーラム AI の起源を、ある特定の瞬間に遡って語ります。「ChatGPT が初めて一般公開されたとき、私はメタにいました」と彼女は回想します。「そして、すぐにこれがすべての情報が流れるための漏斗（ファネル）になることに気づきました。しかし、その品質はあまり良くありませんでした。」このことが彼女自身の子供たちへの影響を考えると、まるで存亡の危機のような感覚を抱かせたのです。「私たちがこれをどう修正するかを見出さなければ、子供たちは本当に無知になってしまう」と彼女は考えていたと振り返ります。
彼女が最も苛立たしかったのは、正確性が誰にとっても最優先事項ではないように見えたことです。基盤モデル企業は「コーディングや数学に極めて集中している」一方で、ニュースや情報はより難しい課題だと彼女は言います。しかし、難しいからといってオプション（任意）であるわけではないと彼女は主張します。
実際、フォーラム AI が主要なモデルの評価を開始したとき、その結果は必ずしも encouraging（励まされるもの）ではありませんでした。彼女は、ジェミニが「中国とは無関係の話題」について中国共産党系のウェブサイトから情報を引き出している事例を挙げ、ほぼすべてのモデルに左派的政治バイアスが見られる点を指摘しました。また、より微妙な失敗も数多く存在すると彼女は言います。例えば、文脈の欠落、視点の欠落、論点のすり替え（ストローマン）への無言の対応などです。「まだ道のりは遠い」と彼女は述べます。「しかし、結果を劇的に改善できる非常に簡単な修正がいくつかあるとも思っています」
ブラウンは、プラットフォームが間違ったものを最適化した場合に何が起こるかを見守るために Facebook で数年を過ごしました。「私たちが試みたことの多くで失敗しました」と彼女はフェンホルツに語りました。彼女が構築したファクトチェックプログラムはもはや存在しません。ソーシャルメディアが目を背けているとしても、その教訓は、エンゲージメントの最適化が社会にとってひどいものであり、多くの人がより情報不足のままになったということです。
彼女の希望は、AI がこのサイクルを打破できることです。「今はどちらに転んでもおかしくありません」と彼女は言いました。企業はユーザーが望むものを与えるか、「現実的で誠実で真実であるもの」を与えるかの二者択一です。彼女は、その理想主義的なバージョン、つまり真実のために最適化される AI は幼稚に聞こえるかもしれないと認めました。しかし、彼女は企業がここで予期せぬ同盟者になる可能性があると信じています。融資決定、貸付、保険、採用に AI を使用する企業は責任を重視しており、「彼らは正しい結果を出すために最適化することを望むでしょう」と。
この企業の需要こそが、Forum AI がビジネスの賭けとしているものであり、コンプライアンスへの関心を一貫した収益に変えることは依然として課題です。特に現在の市場の多くが、ブラウンが不十分と考えるチェックボックス式の監査や標準化されたベンチマークに満足しているため、その課題はより深刻です。
コンプライアンスの状況について、彼女は「お笑い種だ」と述べた。ニューヨーク市が AI 監査を義務付ける最初の雇用バイアス法を可決した際、州監査役は違反事例の半数以上が検出されなかったことを発見したと語った。真の評価を行うには、既知のシナリオだけでなく、「人々が考えもしないトラブルに巻き込まれる可能性のある」エッジケースも処理するためのドメイン専門知識が必要だと彼女は言う。そしてその作業には時間がかかる。「賢い一般化された人材では不十分だ」と。
先秋、ラーヤー・ヒッペオ（Lerer Hippeau）が主導し 300 万ドルを調達した同社の創設者であるブラウンは、AI 業界の自己イメージと、大多数のユーザーにとっての現実との間の乖離を説明する立場に唯一適している。「大規模テック企業のリーダーたちは、『この技術は世界を変える』『仕事を奪う』『がんを治す』と言うが」と彼女は語る。「しかし、チャットボットを使って基本的な質問をする普通の人間にとっては、まだ多くのゴミのような回答や誤った答えが届いているのが実情だ」。
AI に対する信頼性は極めて低い水準にあり、彼女は多くの場合、その懐疑論は正当だと考えている。「会話はシリコンバレーではある一つのテーマを中心に進んでいるが、消費者の間では全く異なる会話が展開されているのだ」。
*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを獲得する可能性があります。これは私たちの編集の独立性には影響しません。*
AI があなたに何を伝えるかを決定するのは誰か？かつてメタ（Meta）のニュース責任者だったキャンベル・ブラウンは、その点について考えを述べています。
アルゴリズムがどのように情報をフィルタリングし、ユーザーのフィードに表示されるコンテンツを選別するかという問題は、デジタルメディア業界において長年議論されてきました。特に、ソーシャルプラットフォームがニュースや情報の流通に与える影響力が増大する中で、その決定権が誰手中にあるのかは重要な課題です。
ブラウン氏は、かつてメタでニュースパートナーシップの責任者を務め、Facebook や Instagram 上でニュースが表示される仕組みを設計・管理する立場にありました。しかし、現在は AI のアルゴリズムがどのようにユーザーの関心や行動に基づいてコンテンツを選別し、結果として何を見せるかを決定しているのかについて、懸念を示しています。
「AI は単なるツールではなく、情報の選別者としての役割を果たしている」とブラウン氏は指摘します。「しかし、その選別基準が透明性を持って開示されているとは限りません。ユーザーは自分がどのような情報に触れることになっているのか、そしてなぜそれが選ばれたのかを理解する権利があります。」
この問題の背景には、AI アルゴリズムが膨大な量のデータを処理し、個人ごとに最適化されたコンテンツを提供するという技術的な進歩があります。しかし、その過程でバイアスが生じたり、特定の視点や情報が優先されたりするリスクも指摘されています。
ブラウン氏は、プラットフォーム企業がアルゴリズムの透明性を高めることと、ユーザーが自身の情報環境をよりよく理解できる仕組みを整えることの重要性を強調しています。「AI が決定を下す際に、誰がその基準を設定しているのか、そしてそのプロセスにどのようなチェック体制があるのかを明確にする必要があります。」
また、政府や規制当局による監視の必要性についても言及しています。「技術の進歩は速く、その影響も広範囲に及びます。そのため、適切なガバナンス（governance）と透明性の確保が不可欠です。」
この議論は、AI が社会に与える影響をより深く理解し、責任ある形で活用するための重要な一歩となるでしょう。ユーザー自身が情報環境の形成に関与できる仕組みづくりが、今後の課題として浮上しています。
キャンベル・ブラウン氏の提言は、AI の決定プロセスに対する透明性と説明責任の重要性を再認識させるものです。技術の進歩と並行して、その利用における倫理的・社会的な側面にも目を向けることが求められています。
原文を表示
Campbell Brown has spent her career chasing accurate information, first as a renowned TV journalist, then as Facebook’s first, and only, dedicated news chief. Now, watching AI reshape how people consume information, she sees history threatening to repeat itself. This time, she’s not waiting for someone else to fix it.
Her company, Forum AI — which she discussed recently with TechCrunch’s Tim Fernholz at a StrictlyVC evening in San Francisco — evaluates how foundation models perform on what she calls “high-stakes topics” — geopolitics, mental health, finance, hiring — subjects where “there are no clear yes-or-no answers, where it’s murky and nuanced and complex.”
The idea is to find the world’s foremost experts, have them architect benchmarks, then train AI judges to evaluate models at scale. For Forum AI’s geopolitics work, Brown has recruited Niall Ferguson, Fareed Zakaria, former Secretary of State Tony Blinken, former House Speaker Kevin McCarthy, and Anne Neuberger, who led cybersecurity in the Obama administration. The goal is to get AI judges to roughly 90% consensus with those human experts, a threshold she says Forum AI has been able to reach.
Brown traces the origin of Forum AI, founded 17 months ago in New York, to specific moment. “I was at Meta when ChatGPT was first released publicly,” she recalled, “and I remember really shortly after realizing this is going to be the funnel through which all information flows. And it’s not very good.” The implications for her own children made the moment feel almost existential. “My kids are going to be really dumb if we don’t figure out how to fix this,” she recalled thinking.
What frustrated her most was that accuracy didn’t seem to be anyone’s priority. Foundation model companies, she said, are “extremely focused on coding and math,” whereas news and information are harder. But harder, she argued, doesn’t mean optional.
Indeed, when Forum AI began evaluating the leading models, the findings weren’t exactly encouraging. She cited Gemini pulling from Chinese Communist Party websites “for stories that have nothing to do with China,” and noted a left-leaning political bias across nearly all models. Subtler failures abound too, she said, including missing context, missing perspectives, straw-manning arguments without acknowledgment. “There’s a long way to go,” she said. “But I also think that there are some very easy fixes that would vastly improve the outcomes.”
Brown spent years at Facebook watching what happens when a platform optimizes for the wrong thing. “We failed at a lot of the things we tried,” she told Fernholz. The fact-checking program she built no longer exists. The lesson, even if social media has turned a blind eye to it, is that optimizing for engagement has been lousy for society and left many less informed.
Her hope is that AI can break that cycle. "Right now it could go either way," she said; companies could give users what they want, or they could "give people what's real and what's honest and what's truthful." She acknowledged the idealistic version of that — AI optimizing for truth — might sound naive. But she thinks enterprise may be the unlikely ally here. Businesses using AI for credit decisions, lending, insurance, and hiring care about liability, and "they're going to want you to optimize for getting it right."
That enterprise demand is also what Forum AI is betting its business on, though turning compliance interest into consistent revenue remains a challenge, particularly given that much of the current market is still satisfied with checkbox audits and standardized benchmarks that Brown considers inadequate.
The compliance landscape, she said, is "a joke." When New York City passed the first hiring bias law requiring AI audits, the state comptroller found more than half had violations that went undetected. Real evaluation, she said, requires domain expertise to work through not just known scenarios but edge cases that "can get you into trouble that people don't think about." And that work takes time. "Smart generalists aren't going to cut it."
Brown — whose company last fall raised $3 million led by Lerer Hippeau — is uniquely positioned to describe the disconnect between the AI industry's self-image and the reality for most users. "You hear from the leaders of the big tech companies, 'This technology is going to change the world,' 'it's going to put you out of work,' 'it's going to cure cancer,'" she said. "But then to a normal person who's just using a chatbot to ask basic questions, they're still getting a lot of slop and wrong answers."
Trust in AI sits at extraordinarily low levels, and she thinks that skepticism is, in many cases, justified. "The conversation is sort of happening in Silicon Valley around one thing, and a totally different conversation is happening among consumers."
*When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.*
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み