Against "Brain Damage"｜「脳への悪影響」論に反駁：AIは思考を損なうのか | AIニュース最前線

私は最近、人々が「AI は脳にダメージを与えるのか？」と私に尋ねる機会が増えていると感じています。これは示唆に富む質問です。なぜなら、AI が実際に脳の物理的な損傷を引き起こすからではなく（実際には引き起こしません）、この質問自体が、AI が私たちの思考能力に対して何をもたらすかという点に対する深い恐怖を浮き彫りにしているからです。そこで、本稿では、あなたの心を害するのではなく、むしろ助けるための AI の活用方法について議論したいと考えています。しかし、なぜ私たちは AI が脳にダメージを与えること如此までに執着してしまうのでしょうか？ この現象の一部は、MIT メディア・ラボ（他の機関の著者も参加）から発表された「Your Brain on ChatGPT」という非常に注目された論文の誤解によるものです。実際の研究は、報道で伝えられたほど劇的なものではありませんでした。これは、大学生の少数グループを対象に、エッセイを一人で書く場合、Google を利用する場合、ChatGPT（およびその他のツールなし）を利用する場合という条件で実施されたものです。ChatGPT を使用した学生たちは、AI を使用しなかったグループと比較して、エッセイへの関与度が低く、エッセイの内容を記憶している量も少なくなりました。4 ヶ月後、ChatGPT の利用者 9 人に ChatGPT を使わずに再度エッセイを書くよう求めたところ、当初 AI を使用しなかったグループ（ただし新しい実験では AI の使用が義務付けられていた）よりも成績が悪く、執筆時の脳波（EEG: Electroencephalogram）活動も低いことが示されました。もちろん、脳の損傷はありませんでした。しかし、より劇的な解釈が私たちの想像力を捉えたのは、私たちが常に新しい技術が思考能力を破壊するのではないかと恐れてきたからです。プラトンは文字の発達が知恵を損なうと考え、携帯電話が登場した際には、電話番号を覚える必要がなくなることで頭が悪くなるのではないかと心配する人もいました。 しかし、AI が私たちの思考に与える影響を心配すべきではないという意味ではありません。結局のところ、技術の重要な目的の一つは、作業を機械にアウトソースして私たちを解放することです。これには知的な仕事も含まれ、例えば電卓に計算を任せることや携帯電話で電話番号を記録させることが挙げられます。そして、思考をアウトソースすると、実際に何かを失うことになります。例えば、電話番号を以前ほどよく覚えることができなくなってしまうのです。AI は非常に汎用的な知的技術であるため、私たちの思考の多くを AI にアウトソースすることができます。では、どのようにして AI を使って私たちを傷つけるのではなく、助けることができるのでしょうか？ 学習する脳 AI の利用があなたの精神的成長を明らかに損なう可能性が最も高い場所は、新しい知識を学習または統合しようとしている時です。思考を AI に委ねて自分で作業を行わない場合、学習する機会を見逃すことになります。この直感を裏付ける証拠があります。ペンシルベニア大学の同僚たちがトルコのある高校で実施した実験では、一部の生徒に宿題を手伝うために GPT-4 へのアクセス権を与えました。ChatGPT を特別な指示やガイダンスなしで使用するように指示された彼らは、結局近道を選んで答えを得てしまいました。そのため、生徒たちは ChatGPT の助けから多くを学んだと感じていたにもかかわらず、実際には学習量は減少し、最終試験のスコアは ChatGPT を使用しなかった生徒と比較して 17% 悪くなりました。 このことが特に恐ろしいのは、生徒たちが善意を持っていても害が生じる点です。AI は親切に振る舞い、質問に答えるように訓練されています。生徒たちと同様に、あなたも宿題へのアプローチ方法について AI のガイダンスを得たいだけかもしれませんが、多くの場合、AI は答えを直接提示してしまいます。MIT メディア研究所の研究が示した通り、これは学習を生み出す（時に不快な）精神的努力をショートサーキットさせてしまうのです。問題点は単なる不正行為にあるわけではありません。確かに AI はそれを容易にしますが、真の問題は、誠実に AI を使って助けを得ようとする試みさえも、AI のデフォルトモードがあなたと共に行うのではなく、代わりにあなたのために作業を行うことであるため、裏目に出る可能性がある点です。 ![image](https://substackcdn.com/image/fetch/$s_!hTt7!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fe9dc655b-540b-4e60-8403-f65104d20370_2142x1369.png) ナイジェリアの研究において、AI 指導セッションに参加した生徒（青）と参加しなかった生徒（赤）の成績分布。 それが、AI は常に学習を損なうことを意味するのでしょうか？全くそんなことはありません！まだ初期段階ではありますが、教師の指導のもと、健全な教育原理に基づいた適切なプロンプトで使用される場合、AI が学習成果を大幅に向上させる可能性を示す証拠が増えています。例えば、世界銀行が実施した無作為化比較試験では、ナイジェリアの放課後プログラムで 6 週間、教師の指導のもと GPT-4 をチューターとして使用した結果、「教育における最も効果的な介入策の一つ以上の効果」を非常に低コストで達成できたと報告されています。どの研究も完璧ではありません（この場合、対照群は全く何もしないグループだったため、AI の効果を完全に分離することは不可能ですが、彼らはその試みを行っています）、しかしこれは同様の発見が徐々に増えている流れに合致しています。ハーバード大学の大規模な物理学クラスでの実験では、よく設計されたプロンプトを持つ AI チューターがアクティブ・ラーニング型授業よりも学習成果で上回りました；スタンフォード大学の巨大なプログラミングクラスで行われた研究では、ChatGPT の使用が試験成績の向上につながったことが示されました；マレーシアの研究でも、教師の指導と堅固な教育原理を組み合わせることで AI を活用した方がより多くの学習効果があったことが発見されています；さらに私が以前言及したトルコの実験でも、より優れたチューター用プロンプトを用いることで、単純に ChatGPT を使用した場合に見られたテストスコアの低下が解消されることが示されました。 ![image](https://substackcdn.com/image/fetch/$s_!YT8f!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F7edbd451-5560-4a23-b92f-20baca0e2957_1637x1100.png) 私たちのチューター用プロンプトは本文内のリンクからアクセスできます。 結局のところ、AI を学習に活用するかどうかではなく、どのように AI を使うかが、脳にとって有益となるか有害となるかを決定します。宿題を手伝ってもらうことから、学習を助けるチューターとして AI に頼ることにシフトすることは有用な一歩です。残念ながら、ほとんどの AI モデルのデフォルト設定は答えを与えることを優先し、トピックについて指導しようとはしないため、専用のプロンプトを使用する必要があるかもしれません。完璧なチューター用プロンプトを開発した人はいませんが、いくつかの教育研究で利用されたもので、あなたにも役立つものがあります。これはウォートン・ジェネレーティブ AI ラボのプロンプトライブラリで見つけることができます。自由に修正して構いません（クリエイティブ・コモンズライセンスの下にあります）。保護者の方であれば、ご自身もチューターとして行動し、「この質問の答えを、X 年生の子供に教えられるような形で説明してください」と AI にプロンプトを入力することもできます。これらのアプローチは完璧ではありませんが、AI が教育にもたらす課題は非常に現実的なものです。しかし、教育が AI に適応し、思考能力を損なうことなく支援する方法で調整できるという希望を持つ理由もあります。それには、教員の指導、よく構築されたプロンプト、そしていつ AI を使い、いつ避けるべきかについての慎重な選択が必要です。 創造的な脳 教育と同様に、AI は使いようによってはあなたの創造性を助けることもあれば、損なうこともあります。創造性に関する多くの測定基準において、AI はほとんどの人間を上回っています。明確に述べておくと、創造性には単一の定義はありませんが、研究者たちは、人間が多様で意味のあるアイデアを思いつく能力を測定するために広く用いられてきたいくつかの欠陥のあるテストを開発しました。これらのテストに欠陥があるという事実自体はそれほど大きな問題ではありませんでしたが、突然 AI がそれらすべてに合格できるようになったことで状況は一変しました。旧型の GPT-4 は、創造性を測るための代替用途テスト（Alternative Uses Test）の変種において人間の 91% を上回り、トランスの創造性思考テスト（Torrance Tests of Creative Thinking）では 99% の人々を上回りました。そして、これらのアイデアが単に理論的に興味深いだけではないことは確かです。私のワートン校の同僚たちは、アイデア創出コンテストを開催しました。これは、歴史的に多くのスタートアップを生み出してきた人気のあるイノベーションコースの学生たちと ChatGPT-4 を対決させるものです。人間による審査員が評価した結果、ChatGPT-4 は学生たちよりもより多く、安価で質の高いアイデアを生成することが示されました。また、これらの外部審査員からの購入意欲も、AI が生成したアイデアの方が高いものでした。 しかし、アイデア生成に AI を使用したことがある人なら誰でも、これらの数値では捉えきれないある事実に気づくはずです。AI は予測可能なパターンを持つ単一の創造的な人物のように振る舞う傾向があります。VR（仮想現実）、ブロックチェーン、環境問題、そしてもちろん AI 自体などに関連するアイデアが、同じテーマとして繰り返し現れることになります。これは問題です。なぜなら、アイデア生成においては、特定のテーマのバリエーションではなく、多様なアイデアのセットから選べるようにすることが実際には望まれるからです。したがって、パラドックスが生じます：AI は多くの個人よりも創造的である一方で、複数の視点から生まれるような多様性に欠けているのです。しかし、研究ではまた、人々は AI を使用した方が単独で作業するよりも優れたアイデアを生成することが多く、場合によっては AI 単体でも人間が AI と共同で作業する場合よりも優れていることが示されています。ただし、注意を怠れば、十分な数のアイデアを見比べた際に、それらは互いに非常に似通って見えることになります。 この問題の一部は、より良いプロンプト（指示）によって解決できます。レンナート・マインケ氏とクリスチャン・テルヴィエシュ氏と共に私が携わった論文では、より優れたプロンプトを使用することで、学生グループに匹敵するほどではないものの、はるかに多様なアイデアを生成できることが明らかになりました。 ![image](https://substackcdn.com/image/fetch/$s_!vwME!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F315e13a3-9914-4047-8055-28e3f4755e53_870x696.png) 以下は GPT-4 向けに作成されたプロンプトです。他の AI モデルでも依然としてよく機能しますが、推論モデルの方が従来のモデルよりもやや創造性に欠ける可能性があるのではないかと私は考えています。 しかし、アイデア生成に AI を使用したことがある人なら誰でも、これらの数値では捉えきれないある事実に気づくはずです。AI は予測可能なパターンを持つ単一の創造的な人物のように振る舞う傾向があります。VR（仮想現実）、ブロックチェーン、環境問題、そしてもちろん AI 自体などに関連するアイデアが、同じテーマとして繰り返し現れることになります。これは問題です。なぜなら、アイデア生成においては、特定のテーマのバリエーションではなく、多様なアイデアのセットから選べるようにすることが実際には望まれるからです。したがって、パラドックスが生じます：AI は多くの個人よりも創造的である一方で、複数の視点から生まれるような多様性に欠けているのです。しかし、研究ではまた、人々は AI を使用した方が単独で作業するよりも優れたアイデアを生成することが多く、場合によっては AI 単体でも人間が AI と共同で作業する場合よりも優れていることが示されています。ただし、注意を怠れば、十分な数のアイデアを見比べた際に、それらは互いに非常に似通って見えることになります。 この問題の一部は、より良いプロンプト（指示）によって解決できます。レンナート・マインケ氏とクリスチャン・テルヴィエシュ氏と共に私が携わった論文では、より優れたプロンプトを使用することで、学生グループに匹敵するほどではないものの、はるかに多様なアイデアを生成できることが明らかになりました。 ![image](https://substackcdn.com/image/fetch/$s_!vwME!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F315e13a3-9914-4047-8055-28e3f4755e53_870x696.png) 以下は GPT-4 向けに作成されたプロンプトです。他の AI モデルでも依然としてよく機能しますが、推論モデルの方が従来のモデルよりもやや創造性に欠ける可能性があるのではないかと私は考えています。 以下の要件を満たす新製品アイデアを生成してください：対象は[市場または顧客]とし、[物理的商品/サービス/ソフトウェア]のいずれかを選択し、もう一方は除外します。小売価格が約[金額]以下で販売可能な製品を希望します。 アイデアはあくまでアイデアです。製品はまだ存在する必要はなく、必ずしも明確に実現可能である必要もありません。以下の手順に従ってください。各ステップを実行してください。たとえ不要だと考えていても実行してください。まず、100 のアイデア（短いタイトルのみ）のリストを作成します。次に、そのリストを精査し、アイデアが異なるか、大胆かどうかを判断し、必要に応じてアイデアを修正してより大胆でより異なるものにします。2 つのアイデアが同じであってはなりません。これは重要です！次に、各アイデアに名前を付け、製品説明と組み合わせます。名前はコロンで区切り、その後に説明が続きます。アイデアは 40〜80 語のパラグラフとして表現してください。このステップも段階的に実行してください。 しかし、より良いプロンプト作成だけでは問題の一部しか解決できません。より深いリスクは、AI があなたの創造的思考能力を損なう可能性があることです。それは、AI の提案にあなたを固定化させることで起こります。これは 2 つの形で発生します。 まず、アンカー効果があります。一度 AI のアイデアを見てしまうと、その枠組みの外で考えることがはるかに難しくなります。誰かが「ピンクの象を想像しないで」と言うようなものです。AI の提案—even 中身が平凡なものでも—あなたの独自の視点を押し退けてしまいます。 第二に、MIT の研究が示したように、人々は AI が生成したアイデアに対して所有感をあまり感じません。つまり、アイデア創出のプロセスそのものから離脱してしまうのです。 では、どうすれば「脳へのダメージ」を避けつつ AI の恩恵を得られるのでしょうか？鍵は順序付けです。AI に頼る前に、まず自分自身でアイデアを生み出すようにしてください。どんなに粗末なものでも書き留めてください。グループブレインストーミングが最も効果的なのは、参加者がまず個別に考えるときと同じく、AI の提案によってあなたがアンカーされる前に、あなたの独自の視点を捉えておく必要があるのです。その後、AI を使ってアイデアをさらに発展させましょう。「アイデア #3 と #7 を極端な形で組み合わせる」「もっと極端に」「#42 に似たアイデアを 10 個追加して」「ユーザーのスーパーヒーローをインスピレーションとして使い、アイデアをもっと面白くする」などです。 この原則は、執筆においてはさらに重要になります。多くの作家が「書くことは思考することだ」と主張しますが、これは普遍的に真実ではありません（詳細が必要であれば、私はこのテーマについてかなり良いディープ・リサーチレポートを生成しました）。しかし、多くの場合、それは真実です。書き、書き直し、さらに書き直すという行為は、あなたのアイデアを熟考し、磨き上げるのに役立ちます。もし AI に執筆を任せてしまうと、思考する部分を完全にスキップすることになります。 執筆とは思考することである私にとって、規律を持つ必要がありました。この投稿のように、私が書くすべての記事は、AI を一切使用しない（調査の補助を除く）完全な下書きから始めます。これは往々にして長いプロセスとなります。なぜなら、私は何度も書き直し、思考するからです。完成した後に初めて、複数の AI モデルにアクセスし、完成した投稿を渡して「読者」として振る舞うよう依頼します。「どこか不明瞭な点はなかったか？もしあれば、非技術的な読者向けにテキストをどのように具体的に明確化できるか？」と尋ねます。また、時には編集者のようにも扱います。「このセクションの終わりが気に入らないので、より適切に合う終わり方のバリエーションを 20 個提案してほしい」といった具合です。さあ、AI を使って文章を整え、可能性を広げてください。ただし、まず思考することを忘れないでください。なぜなら、それは外部委託できない部分だからです。 ![image](https://substackcdn.com/image/fetch/$s_!-tvC!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F1b841108-672c-452d-96e5-e615a95f5651_846x976.png) 私は 4 つを選びました。 集合知 AI が私たちの思考に害を及ぼすもう一つの領域は、社会的プロセスへの影響です。理想的には、チームで働くことの全目的は、パフォーマンスを向上させることにあります。チームはより多くのアイデアを生み出し、潜在的な機会と落とし穴をよりよく見極め、実行を支援するための専門的なスキルや能力を提供できるはずです。会議は、チームが調整し問題を解決する場であるべきです。もちろん、これは理想の話です。現実には、最も洞察に富む経営書の一つは、実は CIA の前身による民間人向けの第二次世界大戦中の破壊工作ガイドなのです。職場の業務を妨害して士気を低下させ遅延させるためのアイデアを見て、それらの多くがあなたの会議の通常の構成要素となっていることに気づいてください。 ![image](https://substackcdn.com/image/fetch/$s_!vIp-!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fbucketeer-e05bbc84-baa3-437e-9518-adb32be77984.s3.amazonaws.com%2Fpublic%2Fimages%2F9902c8b0-df98-4f77-b046-5d996546774e_838x1088.png) したがって、AI の初期の重要な用途の一つが会議の要約であり、さらに言えば、自分が全く出席しない会議の要約を行うことになっているのも不思議ではありません。もちろん、これにより「そもそも要約を読めば済むのに、なぜ会議をするのか？」や「私は自分の AI アバターを会議に送り出すべきか？」といった根源的な問いが生じます。明らかに、全員が単に議事録を読み、それ以上の何もしない会議では、対話もチームワークも、知恵の結集もありません。それは単に時間と労力を浪費するだけで、組織的な脳損傷の一形態です。 しかし、AI が私たちの集団的思考を害するのではなく、それを活用して私たちをより良くする選択肢もあります。興味深い例として、ファシリテーターとして AI を使う方法があります。私たちは、会議の半ばでカスタマイズされたタロットカードを作成し、議論を置き換えるのではなく、むしろ導く役割を果たすように設計したプロンプトを作成しました。会議の議事録を入力すると、AI が最良のアイデアを引き出すのを助けます（これもクリエイティブ・コモンズライセンスのため、必要に応じて修正してください。現在は Claude で最もよく機能し、Gemini や o3 でも問題なく動作します） これは、AI が私たちの集合知を支援するために活用できる方法の一つの楽しい例に過ぎませんが、何が機能するかを見極めるためには、さらに多くの実験が必要です。例えば、AI を悪魔の代弁者として用いて言葉にされていない懸念を浮き彫りにしたり、議論の中で誰の声が聞こえていないかを特定させたり、人間が見落としがちなチームダイナミクスにおけるパターンを見つけ出させたりすることです。鍵となるのは、AI が人間の相互作用を代替するのではなく、それを強化する点にあります。 「脳へのダメージ」に反対する AI は私たちの脳を損傷させるわけではありませんが、考えないままの使い方は思考力を損なう可能性があります。懸念すべきは神経細胞ではなく、思考の習慣です。自動化したり AI に置き換えたりする価値のある仕事は数多くあります（電卓を使う際に私たちはあまり悲しみを覚えないものです）。しかし一方で、私たちの思考が重要となる仕事もたくさんあります。これらの問題については、研究結果が明確な答えを示しています。あなたの仕事の人間性を保ちたいのであれば、まず考え、次に書き、最後に会うことです。 AI が「脳を損傷する」という私たちの恐怖は、実際には自分自身の怠惰に対する恐怖です。この技術は、思考という困難な作業から逃れるための簡単な手段を提供しており、私たちはそれを利用してしまうのではないかと心配しています。その懸念は正当です。しかし同時に、私たちには選択権があることも忘れないでください。 あなたの脳は安全です。しかし、あなたの思考はあなた次第です。 購読する 共有する

「脳への悪影響」論に反駁：AIは思考を損なうのか

背景や根拠まで確認しますか？

関連記事