AI があなたに伝える内容を誰が決定するのか？元メタニュース責任者キャンベル・ブラウンの考え

キャンベル・ブラウンは、そのキャリアを通じて正確な情報の追求に努めてきました。まず著名なテレビジャーナリストとして、次にフェイスブックの初代かつ唯一の専任ニュース責任者としてです。今、AI が人々の情報消費方法を変容させるのを傍観する中で、彼女は歴史が繰り返されつつあると危惧しています。今回は、誰かが修正してくれるのを待つのではありません。

彼女の会社である Forum AI は、サンフランシスコで開催された StrictlyVC のイブニングイベントで TechCrunch のティム・フェルンホルツ氏とのインタビューで言及されましたが、「ハイリスクなトピック」におけるファウンデーションモデルの性能を評価するものです。彼女がそう呼ぶのは、地政学、メンタルヘルス、金融、採用といった分野です。これらは「明確な yes または no の答えが存在せず、不透明でニュアンスに富み、複雑な」主題です。

このアイデアは、世界の第一人者を見つけ、彼らにベンチマークを設計させ、その後 AI 判定者を訓練して大規模にモデルを評価することにあります。Forum AI の地政学に関する取り組みにおいて、ブラウンはニール・ファーガソン、ファリード・ザカリア、元国務長官のトニー・ブリンケン、元下院議長ケビン・マッカーシー、そしてオバマ政権でサイバーセキュリティを率いたアン・ヌーバーガーを招聘しました。その目標は、AI 判定者がこれらの人間専門家と約 90% の合意に達することです。彼女は、Forum AI がこの閾値を達成できていると言います。

ブラウンは、17 ヶ月前にニューヨークで設立されたフォーラム AI の起源を、ある特定の瞬間に遡って語ります。「ChatGPT が初めて一般公開されたとき、私はメタにいました」と彼女は回想します。「そして、すぐにこれがすべての情報が流れるための漏斗（ファネル）になることに気づきました。しかし、その品質はあまり良くありませんでした。」このことが彼女自身の子供たちへの影響を考えると、まるで存亡の危機のような感覚を抱かせたのです。「私たちがこれをどう修正するかを見出さなければ、子供たちは本当に無知になってしまう」と彼女は考えていたと振り返ります。

彼女が最も苛立たしかったのは、正確性が誰にとっても最優先事項ではないように見えたことです。基盤モデル企業は「コーディングや数学に極めて集中している」一方で、ニュースや情報はより難しい課題だと彼女は言います。しかし、難しいからといってオプション（任意）であるわけではないと彼女は主張します。

実際、フォーラム AI が主要なモデルの評価を開始したとき、その結果は必ずしも encouraging（励まされるもの）ではありませんでした。彼女は、ジェミニが「中国とは無関係の話題」について中国共産党系のウェブサイトから情報を引き出している事例を挙げ、ほぼすべてのモデルに左派的政治バイアスが見られる点を指摘しました。また、より微妙な失敗も数多く存在すると彼女は言います。例えば、文脈の欠落、視点の欠落、論点のすり替え（ストローマン）への無言の対応などです。「まだ道のりは遠い」と彼女は述べます。「しかし、結果を劇的に改善できる非常に簡単な修正がいくつかあるとも思っています」

ブラウンは、プラットフォームが間違ったものを最適化した場合に何が起こるかを見守るために Facebook で数年を過ごしました。「私たちが試みたことの多くで失敗しました」と彼女はフェンホルツに語りました。彼女が構築したファクトチェックプログラムはもはや存在しません。ソーシャルメディアが目を背けているとしても、その教訓は、エンゲージメントの最適化が社会にとってひどいものであり、多くの人がより情報不足のままになったということです。

彼女の希望は、AI がこのサイクルを打破できることです。「今はどちらに転んでもおかしくありません」と彼女は言いました。企業はユーザーが望むものを与えるか、「現実的で誠実で真実であるもの」を与えるかの二者択一です。彼女は、その理想主義的なバージョン、つまり真実のために最適化される AI は幼稚に聞こえるかもしれないと認めました。しかし、彼女は企業がここで予期せぬ同盟者になる可能性があると信じています。融資決定、貸付、保険、採用に AI を使用する企業は責任を重視しており、「彼らは正しい結果を出すために最適化することを望むでしょう」と。

この企業の需要こそが、Forum AI がビジネスの賭けとしているものであり、コンプライアンスへの関心を一貫した収益に変えることは依然として課題です。特に現在の市場の多くが、ブラウンが不十分と考えるチェックボックス式の監査や標準化されたベンチマークに満足しているため、その課題はより深刻です。

コンプライアンスの状況について、彼女は「お笑い種だ」と述べた。ニューヨーク市が AI 監査を義務付ける最初の雇用バイアス法を可決した際、州監査役は違反事例の半数以上が検出されなかったことを発見したと語った。真の評価を行うには、既知のシナリオだけでなく、「人々が考えもしないトラブルに巻き込まれる可能性のある」エッジケースも処理するためのドメイン専門知識が必要だと彼女は言う。そしてその作業には時間がかかる。「賢い一般化された人材では不十分だ」と。

先秋、ラーヤー・ヒッペオ（Lerer Hippeau）が主導し 300 万ドルを調達した同社の創設者であるブラウンは、AI 業界の自己イメージと、大多数のユーザーにとっての現実との間の乖離を説明する立場に唯一適している。「大規模テック企業のリーダーたちは、『この技術は世界を変える』『仕事を奪う』『がんを治す』と言うが」と彼女は語る。「しかし、チャットボットを使って基本的な質問をする普通の人間にとっては、まだ多くのゴミのような回答や誤った答えが届いているのが実情だ」。

AI に対する信頼性は極めて低い水準にあり、彼女は多くの場合、その懐疑論は正当だと考えている。「会話はシリコンバレーではある一つのテーマを中心に進んでいるが、消費者の間では全く異なる会話が展開されているのだ」。

*当記事内のリンクを通じてご購入いただいた場合、私たちは少額のコミッションを獲得する可能性があります。これは私たちの編集の独立性には影響しません。*

AI があなたに何を伝えるかを決定するのは誰か？かつてメタ（Meta）のニュース責任者だったキャンベル・ブラウンは、その点について考えを述べています。

アルゴリズムがどのように情報をフィルタリングし、ユーザーのフィードに表示されるコンテンツを選別するかという問題は、デジタルメディア業界において長年議論されてきました。特に、ソーシャルプラットフォームがニュースや情報の流通に与える影響力が増大する中で、その決定権が誰手中にあるのかは重要な課題です。

ブラウン氏は、かつてメタでニュースパートナーシップの責任者を務め、Facebook や Instagram 上でニュースが表示される仕組みを設計・管理する立場にありました。しかし、現在は AI のアルゴリズムがどのようにユーザーの関心や行動に基づいてコンテンツを選別し、結果として何を見せるかを決定しているのかについて、懸念を示しています。

「AI は単なるツールではなく、情報の選別者としての役割を果たしている」とブラウン氏は指摘します。「しかし、その選別基準が透明性を持って開示されているとは限りません。ユーザーは自分がどのような情報に触れることになっているのか、そしてなぜそれが選ばれたのかを理解する権利があります。」

この問題の背景には、AI アルゴリズムが膨大な量のデータを処理し、個人ごとに最適化されたコンテンツを提供するという技術的な進歩があります。しかし、その過程でバイアスが生じたり、特定の視点や情報が優先されたりするリスクも指摘されています。

ブラウン氏は、プラットフォーム企業がアルゴリズムの透明性を高めることと、ユーザーが自身の情報環境をよりよく理解できる仕組みを整えることの重要性を強調しています。「AI が決定を下す際に、誰がその基準を設定しているのか、そしてそのプロセスにどのようなチェック体制があるのかを明確にする必要があります。」

また、政府や規制当局による監視の必要性についても言及しています。「技術の進歩は速く、その影響も広範囲に及びます。そのため、適切なガバナンス（governance）と透明性の確保が不可欠です。」

この議論は、AI が社会に与える影響をより深く理解し、責任ある形で活用するための重要な一歩となるでしょう。ユーザー自身が情報環境の形成に関与できる仕組みづくりが、今後の課題として浮上しています。

キャンベル・ブラウン氏の提言は、AI の決定プロセスに対する透明性と説明責任の重要性を再認識させるものです。技術の進歩と並行して、その利用における倫理的・社会的な側面にも目を向けることが求められています。