『AIスネークオイル』書籍および執筆プロセスに関するFAQ

『AI スネークオイル』という本は先週刊行されました。関心のレベルに感謝しています——これまでに約 8,000 部が販売されています。本書の内容や執筆プロセスについて、多くの質問をいただいています。ここでは最も一般的な質問にお答えします。

なぜ AI の恩恵を認めないのですか？

私たちは認めています！本書は反技術的な小冊子ではありません。もし「すべての AI は無意味である」というのが私たちの主張であれば、それを言うために本全体が必要になるはずはありませんでした。AI が多くの分野で有用であるからこそ、過剰な宣伝や詐欺（スネークオイル）が成功してきたのです——人々にはこれらを見分けることが難しく、本書がその手助けになればと願っています。

また、私たちが指摘する害悪は通常、技術単独によるものではなく、むしろ既存の社会問題を増幅するツールとして AI が機能していることに起因することが多いことも認識しています。本書で繰り返し指摘されているパターンは、「欠陥のある AI は欠陥のある制度に魅力的である」というものです（第 8 章）。

では、AI に対する楽観的なビジョンとは何ですか？

「AI とはまだ実現されていないもののことだ」というユーモアある定義があります。ある AI アプリケーションが確実に機能し始めると、それは私たちのデジタルまたは物理世界の背景に溶け込み、当たり前のように扱われるようになります。そして私たちはもはやそれを「AI」と呼ばなくなります。技術が新しく、確実な動作をせず、社会に対して両刃の剣のような影響を与える場合、私たちはそれをより頻繁に「AI」と呼びます。そのため、すでに AI が私たちの生活において大きなプラスの役割を果たしていることを見落としがちなのです。

かつて AI と呼ばれていたが、おそらく今日ではそう呼ばれないであろうアプリケーションのリストは長い：ロボット掃除機、ウェブ検索、飛行機の自動操縦システム、オートコンプリート、手書き認識、音声認識、スパムフィルタリング、さらにはスペルチェックなど。これらが私たちがさらに望む AI の種類であり、私たちの生活を静かに改善する信頼性の高いツールです。

今日、誤った理由でニュースになる多くの AI アプリケーション—例えば、偶発的な衝突により問題視される自動運転車などは—この移行期にあります（ただし、本書で指摘しているように、開発者や CEO が予想していたよりもはるかに長い時間がかかっています）。私たちは、人々が最終的に自動運転車を物理的環境の一部として当然のものとして受け入れるようになるだろうと考えています。

これらの変化に適応するのは簡単ではありません。雇用喪失を招き、交通インフラや都市計画の変更を必要とし、さまざまな波及効果をもたらすでしょう。しかし、それは良いことだったと言えるでしょう。なぜなら、信頼性の高い自動運転技術の安全性への影響は、いくら強調しても過言ではないからです。

本書の中心的なメッセージは何ですか？

AI は、緩やかに関連する一連の技術とアプリケーションを包括する用語です。AI の恩恵やリスク、社会的影響、あるいはこの技術にどう取り組むべきかといった質問に答えるためには、それを分解する必要があります。そして、それが本書で行っていることです。

私たちは予測 AI に対して全体的に否定的な見解を持っています。ここでいう予測 AI とは、人々の将来の行動や結果に関する予測に基づいて人々に関する意思決定を行うために使用される AI のことを指します。これは犯罪リスクの予測、採用、医療、そしてその他多くの重要な分野で使用されています。予測 AI に関する私たちの章には、アルゴリズムによる予測のために人生の機会を奪われた人々の数々の恐ろしい物語が描かれています。

未来を予測するのは難しく、AI もそれを変えるものではありません。これは技術的な限界によるものではなく、社会学に根ざした人間の行動を予測することにおける本質的な限界があるからです。（本書はプリンストン大学の社会学者マット・サルガニク氏に多大な恩義を負っています。彼との協力関係が本書の形成とインスピレーション源となりました。）

一方、生成 AI は両刃の剣のような技術です。私たちは長期的には全体的に肯定的な見解を持っており、それが本質的にすべての知識労働者にとって有用であることを強調しています。しかし、その導入は混沌としており、誤用が蔓延していました。まるで世界中の誰もが同時に無料の丸鋸を手にしたかのような状況です。本書では次のように述べています：

本書にはその他どのようなことが含まれているのでしょうか？

章の概要はこちらをご覧ください。

あなたの本はすぐに古くなってしまわないのですか？

書籍出版は AI の進展よりも時間軸が遅いことを私たちは知っています。したがって、本書は実際の進歩と過剰な期待を区別するために必要な基礎知識に焦点を当てており、最新の動向に関する評論ではありません。各章、そして各段落を書く際、私たちは自問しました：「これは 5 年後にも関連性があるだろうか？」この考え方は、ニュースレターと本書の間にほとんど重複がないことを意味します。

現在、AI セーフティ（安全性）、e/acc、AI エシックス（倫理）という三つの対立する陣営が存在しているようです。あなたはどの陣営に属していますか？

AI に関する議論は、どの AI リスクが重要なのか、その深刻度と緊急性はいかなるものか、そしてそれらに対して何をすべきかという意見の相違により分極化しています。大まかに言えば以下のようになります。

AI セーフティコミュニティは、壊滅的な AI リスクを主要な社会的懸念と捉え、政府による介入を支持しています。このコミュニティは、有効主義（エフェクティブ・アルトリズム）運動と強い結びつきを持っています。

e/acc は「有効加速主義」の略称で、有効主義への皮肉を込めた言葉です。これは技術が解決策であると見なし、政府による介入を拒否するリバタリアン運動です。

AI エシックスコミュニティは、差別や労働搾取など AI によって実際に生じた害に焦点を当てており、AI セーフティへの注目はこれらの優先事項からの逸脱であると考えています。

過去、私たちは二人とも AI エシックスに取り組んでおり、そのコミュニティの一部だと自認していました。しかし現在では、これらのラベルのいずれにも同調していません。私たちはこの二極化が逆効果であると捉えています。かつては「気晴らし」説を支持していましたが、現在はそうではありません。安全性への懸念により AI 政策が優先事項となった事実は、政策決定者による AI や市民権の問題への注目を減らすどころか、むしろ高めています。これらの二つのコミュニティはどちらも AI 規制を望んでおり、違いではなく共通点に焦点を当てるべきです。

最近では、私たちの技術的および政策的な作業の多くは AI セーフティ（AI safety）に取り組むものですが、私たちは AI セーフティコミュニティの主流とは異なる視点を持っていることを説明してきました。私たちの役割は、安全性への懸念に真摯に関わり、終末論やユートピア主義的な物語を拒否する、先進 AI の未来に関するエビデンスに基づくビジョンを提示することだと考えています。

本書を書くのにどれくらいかかりましたか？

「書く」という意味を何と捉えるかによります。本書は単なる解説書ではなく、本一冊分に相当する真に新しい学術的アイデアを開発するには長い時間がかかります。以下に簡単なタイムラインを示します：

2019 年：アルヴィンドが本書のハイレベルな主張の初期バージョンを策定

2020 年：本書に影響を与える研究を開始し、論文を発表

2022 年半ば：執筆を開始し、このニュースレターを立ち上げ

2023 年 9 月：査読者のフィードバックを反映する前の初期著者原稿を提出

2024 年 1 月：査読者のフィードバックに対応した後の最終著者原稿を提出

2024 年 5 月：最終校了完了

2024 年 9 月：出版

執筆プロセスはどのようなものだったのでしょうか？

1 年という期間で執筆の大部分を完了させるには、多くのことがうまくいく必要がありました。以下が私たちが採用したプロセスです。

私たちは事前に全体構造を決定しました。複数の章に影響を与える変更は、単一の章内の変更よりも実行するのがはるかに困難だからです。執筆開始前から数年間この本のトピックについて考えてきたため、高レベルの概要では何を伝えたいかをすでに把握していました。

Throughout, we had periodic check-ins with our editor, Hallie Stebbins. Early on, Hallie helped us sanity check our decisions about structure, and sharing our progress with her gave us something to look forward to. In the later stages, her input was critical.

私たちは章を分担しました。もちろん、両者ともすべての章に関わりましたが、各章の責任者を一人に定める方がはるかに整理されます。これをうまく機能させるためには、私たち二人が同じ「トーン」を使用する必要がありました。どの章の責任者が誰だったか、お分かりいただけますか？

私たちは、各章の草稿を内部編集を数回行った後に完成するたびに Hallie に送りました。最後まで待つのではなくです。やってよかったと思っています！ 私たちはそれなりの文章力を持っていましたが、Hallie は平均して段落ごとに数回の修正や提案を行いました。主に不自然な表現の修正や、混乱を招く部分への指摘でした。

文章の編集により本書は劇的に読みやすくなりましたが、それ以上に重要だったのは彼女のハイレベルでのフィードバックです。特筆すべきは、彼女が繰り返し「これは『AI の蛇油』というテーマとどう関連するのか？」と私たちに問いかけ、焦点を維持する手助けをしてくれたことです。

あ、そうそう、ハリーーはどの章の主導権を誰が取ったのか区別できなかったようで、それは大きな安堵でした！

私たちは序章を最後に書きました。この本全体よりも序章を読む人が圧倒的に多いことは承知しています。その理由の一つとして、序章がオンライン上で公開されているからです。そのため、私たちはこれを完璧に仕上げることに特にこだわりました。各章のメッセージが明確になった最終段階でこれを行う方がはるかに容易でした。

次のステップはピアレビュー（同行者による査読）です。メーリー・ミッチェル、モリー・クロケット、クリス・バイル、そして3名の匿名審査員からレビューを受けました。彼らからのフィードバックを合わせると30ページ以上にもなり、その点に対して私たちは非常に感謝しています。すべての指摘に対応するには数ヶ月かかりましたが、やってよかったと思っています。

全体として、各章は校正を含む6〜8回の編集ラウンドを経ています。これはかなり一般的なことです！

本書のプロモーションには多大な労力がかかります。私たち二人でこれまでに約50回、講演やインタビュー、ポッドキャストに参加しました。さらに、パブリシストのマリア・ウェラン氏をはじめとする多くの人々が、裏方として私たちに多大な貢献をしてくれました。

最終結果をお気に召していただければ幸いです。コメント欄やAmazonにて、ぜひご感想をお聞かせください。