人間らしさを選ぶこと

お気に入りのソーシャルメディアサイトに行くと、投稿の多くがお互いに不自然に似ていることに気づくでしょう:

これらの投稿に対するコメントの多くも AI によって生成されています。学術論文やニューヨーク・タイムズの意見記事、さらには賞を受賞した短編小説の数も増加しています。AI を頻繁に利用している方なら、おそらく周囲にあふれる AI による文章に気づいているでしょう（過去の経験則として、AI の利用者ほど AI による文章を正確に識別できる傾向があります）。もしまだ気づいていないとしても、お約束します、その量はあなたが思っているよりもはるかに多いのです。

AI による文章の単調さだけが問題なのではありません。確かにそれは次第に退屈なものとなり、私の内部にある「AI 検出器」が作動すると、興味深いトピックであっても執筆をスキップしてしまうほどです。さらに深刻なのは、不適切なプロンプトで生成された AI の文章は、単語あたりの意味内容が極めて乏しく、読者を知的な円周上を彷徨わせるだけだということです。私たちは、よく練られた文や知的に聞こえるテキストが、努力を要する人間の作業の結果であると学習してきているため、AI によって書かれたコメントを目にした際にも注意を払ってしまいます。しかし、そこには実際には人間による意味は存在せず、これらの投稿は単なる「意味の形をした」注意力を吸う吸血鬼に過ぎません。解読するには精神的な努力が必要ですが、その対価として同等の理解を得られることは決してありません1。

しかし、AI を執筆に用いることは、読者を遠ざけること以外にも代償を伴います。それは重要な人間のタスクの発展を損なうリスクがあるからです。私は幸運にも数十年にわたり執筆活動を行っており、自分独自のスタイルを確立しました。このスタイルは、本を書こうがツイートしようがブログ記事を書こうが、どこでも光を放っていると思います。そのスタイルを磨き上げるには、非常に面倒くさい作業が必要でした。優れた教師たちとの出会い、何度もの書き直し、そして辛辣なオンライン上のコメントなど、すべてが貢献しました。もし AI が完璧に執筆してくれるなら、私はそうした過程を省略できるかもしれません。しかし、それは私のキャリアと幸福にとって極めて重要なものを手放すことと同じ意味を持ちます。

これは、AI を執筆支援に用いること自体を非難するものではありません。私は、優れた作家にとって AI は素晴らしいツールになり得ると考えています（私自身も、すべての文章を AI でチェックさせ、異なる読者の視点をロールプレイさせて、重要な点を見落としていないか確認しています）。コミュニケーションに苦労している人々にとっては、AI がアイデアをより効果的に伝える手助けとなり得ます。また、誰にとっても執筆が思考そのものとは限りません。さらに、少しの労力をかけることで、AI による文章は陳腐さを減らし、より個人的で、使用価値のあるものにすることができます（ただし適度な範囲で）。したがって、私が非難するのは、AI をデフォルトとして用いること、あるいは最悪の場合、一切考えずに用いることです。AI の利用と私たちの精神的な能力のバランスを取っていくことは、今後数年を定義する重要な課題となるでしょう。

微妙な変化が大きな結果の違いを生む

これを最も明確に示しているのが教育の分野であり、研究チームが重複する 2 つの研究論文（ウォートン校の同僚らも含まれる）が、思考をショートカットするために AI を使うことと、思考を支援するために AI を使うことの差をよく説明しています。最初の論文は、数学を学ぶ約 1000 人の生徒がいるトルコの高校で行われた実験です。一方のグループは通常の ChatGPT を使用し、もう一方は AI にアクセスできませんでした。ChatGPT を使った生徒たちは宿題をより良くこなしましたが、自分たちがより多くを学んでいると感じていました。しかし、テストでは ChatGPT を使わないクラスメートよりも成績が劣りました。これは、AI が親切なアシスタントとして設計されているにもかかわらず、実際には単に答えを与えてしまっていたからです。真の学習には精神的な努力が必要です。努力をショートカットすれば、学習もショートカットされてしまいます。これが、教室における AI の初期の結果が学習に対して非常に心配される理由です。

しかし、同じ著者たちの複数の論文から別の結果が見られます。彼らは台北の高校 10 校で約千人の生徒を対象に 5 ヶ月間の Python コースを実施しました。AI ターチュアが個別に設定した問題シーケンスを受けた生徒は、AI の助けなしに行われた最終試験で標準偏差 0.15 高いスコアを記録しました。ある推計によれば、これは追加の指導時間や教師の負担を増やすことなく、6 ヶ月から 9 ヶ月分の教育に相当する成果です。代わりに AI が学習を生徒に合わせて調整したのです。これは他の AI ターチュアに関する研究とも一致しており、適切に使用された場合、カスタマイズされたターチュアが学習を大幅に向上させる可能性を示唆しています。

AI の使い方のわずかな違いが、大きな成果の差につながります。さらに悪いことに、人間の性質は私たちに間違った選択をさせます。学習には自分自身の無知と向き合い、困難な知的作業を行う必要がありますが、これらは非常に不快です。そのため、生徒たちは実際には困難な問題に取り組むことでより多く学ぶにもかかわらず、娯楽的な講義の方が授業中の難しい問題よりも教育的だと評価してしまいます。学習において AI の恩恵を受けるためには、AI に問題を解かせるのではなく、自分自身で問題を解決するよう促す方向へ転換する必要があります。

幸いにも、主要な 3 つの AI 企業には、AI をチューターのように振る舞わせることで学習を支援するツールが用意されています。残念ながら、これらのツールへのアクセスは直感的ではありません。Gemini が最も簡単です。プラスボタンを押して「Guided Learning」を選択してください。ChatGPT では、チャットボックスに「/learn」と入力する必要があります。Claude では、プラスボタンを押して「use style」を選択し、「learning」を選ぶ必要があります（Anthropic はこのアプローチが変更されると発表していますが、まだその変更を文書化していません）。いずれの場合も、可能であれば思考機能付きまたは高度なモデルを使用してください。特に STEM 分野ではそれが重要です。これらのモードは学習したい人を支援するものですが、もしあなたが不正行為をしたいのであれば、それを止めることはできません。

あまりにも摩擦が少ない

AI はあなたの思考能力を損なう必要はありませんが、誤って使用されればそうなります。そして、誤った使い方がしばしばデフォルトとなっています。私のワートン校の同僚たちはこれを「認知的降伏」と呼んでおり、人々が問題について考えるのをやめ、AI が作業を行うように任せてしまう様子を文書化しました。AI が間違っている場合でも同様です。私はこの問題の一部は、これらのツールの設計方法にあると考えています。

私はこの投稿のためにこれを行いませんでした…

AI システムが綿密な往復の対話を必要とし、頻繁に誤りを犯していた時代には、人間はあらゆる段階に関与する必要がありました。エージェント型システムは、単に作業を実行することであなたの生活を楽にするように設計されています。これはタスクを完了させるためには素晴らしいことですが、何かを学ぶことや、本物であること、あるいは認知的な放棄を防ぐことにとっては悪影響です。難しい要求を入力して回答を得ると、AI の回答に従ってしまう誘惑に駆られがちです。

最近、Fabrizio Dell'Acqua とハーバード大学、MIT、ウォリック大学、BCG（Boston Consulting Group）、その他の機関の同僚たちと共著で発表した論文において、ボストン・コンサルティング・グループのコンサルタント 758 名を対象に実験を行いました。そのうち半分は GPT-4 にアクセスできる環境でした。AI を利用したコンサルタントは、利用しないコンサルタントよりも圧倒的に高い成果を上げました。しかし同時に、私たちが AI が失敗することを事前に知っていた問題解決タスクも実施させました。このタスクにおいて AI を使用したコンサルタントは、使用しなかったコンサルタントに比べて正解を得る可能性が著しく低くなりました。AI は誤りであるにもかかわらず権威あるように見える回答を提供し、その結果、他のすべての分野で優れた成果を上げていた同じエリート層のコンサルタントのほとんどが、その誤りに気づくことができませんでした。もちろん、現在では AI がその問題を解決できるようになっていますので、現在の課題は実際のエラー率の問題ではなく、同じ放棄への衝動に屈することで良いコンサルタントになる方法を学べないという点にあります。

これもまた、デフォルトである必要はありません。Anthropic が実施した小規模な研究では、プログラマーが AI を使って新しいタスクを遂行しました。AI に任せて作業させた人々は、自分が何をしたのかという質問に答えられず、これは諦めの表れでした。しかし、AI にその行動の理由を説明させたり、一部の作業のみで AI の助けを借りた人々は、そのような運命を回避しているように見えました。

解決策の一部はツール自体にあるかもしれませんが、それは限定的です。すべての回答の前に「考えさせるべきか、それとも答えを与えるべきか」と尋ねる、あるいは「これはあなたが書く方がより本物らしいと思います」と伝える ChatGPT のバージョンは、ほとんどの場合、耐えがたいものになるでしょう。しかし、私たちはこれらのリマインダーを絶対に必要とする場面も存在します。台北での結果は、ユーザーの意志力ではなくシステムレベルの制約という一つの方向性を示唆していますが、消費者向け製品ではそのような動きはあまり見られず、商業的な圧力はむしろ逆方向に働いています。

人間として何を維持するか

多くの問題は私たち自身にかかっています。明確に言っておきますが、私は多くの認知上の譲歩には反対しません。電話番号を覚えている必要がないのは、電話が代わりにやってくれるからです。子供たちが筆記体（cursive）を学ぶ必要がなかったことは嬉しく思います。日常の計算は電卓に、授業のスケジュール調整はコンピューターに任せるのも問題ありません。これらはかつて有用なスキルでしたが、それらを廃棄したのはおそらく正しかったのです。

AI は異なる。なぜなら、その技術は一般性が高く、事実上あらゆる認知タスクをある程度まで AI に委ねることが可能だからだ。私は執筆に対してあまり神経質になりたくない。磨き上げられたメールの草案が必ず人間の頭脳から生まれるべきだという原則はない。それは算数の列計算が必ず人間の手で行われる必要があるというのと同じことだ。しかし、私たちはすべてを手放したくないし、特定のタスクにおいて何が重要で何がそうでないのかを、まだ私たちはほとんど知らない。それを決定することは真に大きな課題となるだろう。

目的は AI を避けることではなく、AI の利用について意識的な選択を行うことで、それに対して意図的になることだ。それは反射的な依存や反射的な回避ではない。より広く言えば、私たちが今いるのは、どのような仕事を AI に任せるかというデフォルトが設定されつつある地点である。そのデフォルトを設定しているのは、摩擦のない利用を設計する AI 企業であり、何をもって「AI をうまく使う」とみなすかを決定する雇用主であり、移り変わる概念である「AI リテラシー」を教える人々だ。皮肉なことに、これの多くは、いかなる現実的な計画や検討もなしに行われている。そして、一度世代の人々がそれらを中心に習慣を築いてしまうと、これらのデフォルトを逆転させるのは難しくなるだろう。私たちが今できる最も重要なことは、何を委ね、何を自分たちで保持するかを問い続けることだ……そして、AI を含む誰かに、その答えを代わりに出してもらうことを期待してはならない。

購読する

共有する

これは特にフィクションの執筆において真実です。AI はここが極めて苦手でありながら、あたかも得意であるかのように見せかけることがよくあります。とりわけ ChatGPT は、無意味な隠喩や比喩（「通りは歯抜けの笑顔のようだった」「木々がうらやむような座り方」など）を好みます。これらは一見すると深遠に感じられますが、それは私たちが難しい文章には意図があると仮定し、無理やり意味を見出そうとするからです。人間は、十分に努力すれば、無意味な素材にも意味を見出すのが非常に得意です。