思考の速度で創造が進む世界における長期的な信頼構築

Sean Bonawitz 氏（fal の信頼・安全担当責任者）による寄稿

私の最初の仕事は、米海軍の爆発物処理小隊指揮官でした。そこで私は周囲の人々を守り、彼らが前進し続けられるようにする任務に就きました。ミッションは常に「命を守る」「被害を最小限に抑える」「アクセスを可能にする」ことでした。理解するのは簡単ですが、時計が進み、速すぎても遅すぎても即座に現実的な結果をもたらす状況では、これを実践するのは容易ではありません。

信頼は基盤であり、暗黙の了解として存在するものでした。それは時間とともに積極的に築き、維持していくものです。チームとの間の信頼、圧力下での自分の判断に対する信頼、そしてあなたに依存する人々が、時間をかけて「急ぐべきこと」と「急ぐべきではないこと」の違いを理解してくるという信頼です。

この思考プロセスは、私が携わってきたあらゆる業界で私と共にありました。そして AI においては、その独自のペースが、私たちが行うすべてのことをより鮮明な焦点へと導きます。

それが文字通り生死に関わる stakes（利害）だからではありません。確かに信頼・安全の分野の一部では、実際に生死に関わるケースもあります。しかし、根本的な論理は同じです。あなたは常に時間制約の中で行動しており、望むすべての情報を得ることは決してできません。そして最悪なのは、凍りついて動けなくなることです。次善の策として最も危険なのは、あまりにも速く動きすぎて明確に思考できなくなることです。

私が携わってきたすべての役割において変化したのは、信頼そのものの定義と、状況の重要性が高まる中で責任が実際にどのようなものに見えるかです。この定義は、私が従事してきたあらゆる業界で成長し、拡張されなければなりませんでした。しかし、変わっていないことがあります：プレッシャー下での振る舞いこそが、信頼を築くのか失うのかを決めるのです。

AI 業界において、真に信頼と安全の問題に対して先んじている者はいません。

AI 業界は誰のためにも減速しません。規制当局のためでもなければ、倫理学者のためでもなく、その中で構築する企業自身のためでさえもです。私は fal に加入しましたが、私たちが構築しようとしているものへの信念からでした。しかし、AI の信頼と安全に関する業界の議論でしばしば軽視されている事実に正直でありたいと思います：誰もこれを完璧に解明していません。私たちも、この分野における最大手の企業も同様です。私たちはすべて、リアルタイムでプレイブックを執筆している最中であり、業界が一夜にして変化したために、単に私たちが望むべき場所よりも一歩遅れをとっていることがよくあります。これが、急速に変化する最前線で働く現実なのです。

そのすべてを通じて、私は信頼と安全が実際にどのように機能するかを学びました。理論でも概念でもなく、その実際の真のメカニズムです。プレッシャー下でどう構築されるか。速すぎたり遅すぎたりしたときにどう崩壊するか。あなたに依存する人々が、あなたが違いを理解していることを信頼することを必要とする理由です。

それが私が fal に持ち込むものです。タイミングは贅沢ではなく制約です。「私たちは準備ができているか？」という問いは、本質的には問われません。重要なのは「今すぐ何ができるか、そしてここから責任ある動きとはどのようなものか」という点です。

fal の現状を具体的に示します。

明確に述べたいと思います。fal では AI インフラストラクチャとして運営しています。この枠組みが重要です。私たちはコンテンツやソーシャルメディアプラットフォームではありません。フィードをキュレートしたり、ユーザーへコンテンツを押し付けたりする立場でもありません。構造と責任の観点では、ソーシャルネットワークよりもクラウドプロバイダに近い存在です。私たちの姿勢は一つの明確な原則に集中しています：違反の事実を実際に把握した瞬間、即座に対応します。

現在、私たちは以下の項目に対する執行を最優先しています：

児童安全：Thorn と統合を進めており、同社の技術により児童性的虐待材料（CSAM）が拡散する前に検知・削除し、法的に義務付けられた報告先である NCMEC へ報告します。これは事後対応ではなく、予防的なセーフガードです。この分野で成功し倫理的なビジネスを営むためには、児童安全において常に最高基準を維持することが不可欠であるため、私たちは早期にここに投資しました。

同意のない性的画像：私たちは、ハッシュマッチングを提供する国際慈善団体である StopNCII.org と提携しています。これにより、被害者は自身の画像を登録し、提携プラットフォーム全体で自動検知トリガーを発動できます。私たちはここに投資しました。なぜなら、同意のない性的画像の作成は、当社の利用規約および適正使用ポリシーに違反し、互いの保護された権利を尊重するというコミュニティの価値観と矛盾するためです。

この分野における脅威は急速に変化するため、プログラムは今日見える問題への対応だけでなく、耐久性を持って構築されなければなりません。

なぜ信頼性と安全性の構築は長期的な取り組みなのか

信頼性と安全性の取り組み、つまりその背後にあるプログラムやパートナーシップ、インフラは、長期的視野を持って構築された場合に最も効果的に機能します。

私たちが持っているのは、ここで何をすべきかという明確さであり、それに向けて必要な準備を整えてきました。この焦点があるからこそ、企業は直近で表面化した問題への反応に終始するのではなく、長期的に優れた実行力を発揮できるのです。壊れた箇所をその都度パッチで補修して対応するものではありません。新しい圧力にも耐えうるよう設計されたシステムを構築します。

私が他社で観察し、学ぼうとしたのは、両極端で何が起こるかです。すべてを解決しようと試みた企業は麻痺してしまい、あらゆる決定が哲学的な議論となり、すべての進行が遅れてしまいました。一方、あまりにも速く動きすぎて、見逃すべきものを見落としてしまう企業もありました。どちらもモデルではありません。両方を見て私が得た教訓は、目標は完璧さではないということです。それは継続的な改善と耐久性です。最も重要なことに立ち向かい続けること、まだ知らないことについて正直であること、そしてそのいずれも見失わずに構築し続けることはできるでしょうか？fal では、これが私たちが目指す基準です。

適切な瞬間、適切なタイミング

私が fal に着任する前から、同社は信頼と安全性に注力していました。企業の成長過程や業界の成長過程において、作業がより専念された形へと結晶化する必要がある瞬間があります。生成 AI はまさにその瞬間を迎えました。この分野のスピード、そして現在可能になったことの広さを考えると、fal にはこの基準を維持するために全職務をこれに充てる人物が必要でした。会社にとっても私にとっても、タイミングは完璧でした。

fal に参加して以来、私が発見したことに心から驚き、謙虚な気持ちになりました。技術チームの動きが速いことは予想していましたが、安全性に関わるメンバーも例外ではありません。また、彼らには自己顕示欲がないことも分かりました。創業者たちは、自分が本当に信じる何かを構築しており、その信念は私たちが行うすべてのことに表れています。見栄えのためのポーズも、縄張り意識もなく、前進する中で最善の解決策に向かって共に進むことを犠牲にしてでも良く見せようとする者もいません。

それは、聞こえる以上に重要です。企業内の信頼こそが、企業外の信頼を可能にするものです。私は、一緒に働く人々が知っていることと知らないことの両方について正直に話してくれると信じており、私も同様に彼らに誠実であるべきです。私がここに来た目的は、彼らが構築しているものを遅らせるのではなく守るものであると彼らが信じられるなら、私たちのチームは強固なものになります。fal で私が発見したのは、誰かがそれを正式な名称で呼ぶ前から、すでにそのバランスを理解していたチームでした。

時計は常に動いています。私をここへ引き寄せたのは、この事実を知り、それに基づいて行動する人々がいるからです。

Sean Bonawitz 氏は fal の信頼と安全性責任者です。fal に加入する前は、YouTube、TikTok、Patreon、TextNow で信頼と安全に関する役割を務め、米海軍では爆発物処理小隊指揮官として奉職しました。