知識へのアクセスが制限ではなくなったとき
大規模言語モデルへの反論を箱に閉じ込める思考実験を通じ、知識アクセスの限界がなくなる新たな段階を考察。
キーポイント
大規模言語モデル（LLM）が知識へのアクセスを民主化し、学習・理解のプロセスを変革している
LLMは専門知識のない分野でも深い理解を可能にする実用的ツールとして機能している
知識への容易なアクセスは教育・子育て・日常の好奇心にも大きな影響を与えている
著者はLLMの肯定的側面を強調しつつ、潜在的な問題を「箱」の比喩で示唆している
影響分析・編集コメントを表示
影響分析
この記事はLLMが知識格差を解消し、学習の民主化を促進する可能性を示している。一方で、容易な知識アクセスがもたらす思考の浅さや依存性といった潜在的問題にも言及しており、技術の両面性を考察する重要な視点を提供している。
編集コメント
技術の進歩がもたらす肯定的な変化を具体的な体験を通じて描きつつ、批判的視点を比喩的に示すバランスの取れた論考。AIが日常生活に浸透する現実を鮮明に伝えている。
一緒に思考実験をしてみましょう。小さな箱があります。その箱をテーブルの上に置きます。さて、小さな箱を開けて、大規模言語モデルに対するすべての反論を中に入れます。私自身の反論も含めて、すべての反論を入れます。では、箱を閉めて、テーブルの上に置いたままにします。
さて、それが片付いたので、私たちにはすべての肯定的な側面だけが残されました。世界の情報を指先で得られることからもたらされる、すべての良いことです。どんな質問でも、ほとんど瞬時に答えを得ることができます。まあ、すべての質問がというわけではありません。東にはある広場についての、西にはある島についての、それぞれ感受性の問題がありますが、話がそれました。
私は学びたいどんな科目でも学べます。どんな哲学者の著作も取り上げて、5歳児に説明するように解説してもらえます。ついにショーペンハウアーの『意志と表象としての世界』を理解できるようになりました。友人が私がまだ20代のときにコピーを贈ってくれたのですが、それ以来ずっとほこりをかぶり続けていました。でも今では、その本に向き合い、徹底的に理解するまで質問をすることができます。最初から最後まで読む必要はありません。
実際、去年、私は電池について学びたいと思いました。まず「Battery University」のウェブサイトに行き、レッスンを一つずつ読み始めました。でも疑問が湧きました。どうやってその疑問を解決すればいいのでしょう？StackExchangeネットワークは昔のようではないので、ChatGPTに頼りました。そこにはすべての答えがありました。電池についてとてもたくさん学び、読みましたので、電池会社を始めたくなってしまうほどです。
私の双子の息子たちは、無限の「なぜ？」に悩まされる年頃です。なぜ雨が降るの？なぜ地球は回るの？なぜカリフォルニア州はまだ一部の高速道路標識にハイウェイ・ゴシック体を使っているの？これらの質問に、私は即座に答えられるわけではありませんが、無限の知識マシンにアクセスできるので、もちろん今では子どもたちは答えを知っています。
つい先日、シャワーを浴びながら車について考えました。「車ってただの車輪付き金属板なのか？」そして今、答えは「本質的にはそう」だと学びました。でもその後もその話題について読み続け、今まで聞いたこともなかったような小さな装置や機械技術の部品について学びました。例えば、スタビライザーリンク。ご存知でしたか？それが車体のローリングを減らし、旋回時の安定性を保つことを知っていましたか？魅力的です。
LLMが2022年に公にデビューして以来、私たちはこの知識ベースを贈り物として受け取りました。仕事中でも家でも、昼夜を問わず、オンデマンドで対話できる知識ベースです。可能性は無限にあるようです。プログラミング言語に詳しくなくても、どんなコードベースでも学んだり理解したりできます。それでも、何かが足りないように感じます。
この知識にアクセスすればするほど、テーブルの上の小さな箱が開き始めているように感じます。これは単なる私の意見ですが、すべての部分の合計は依然としてただ一つに過ぎないと信じ始めています。説明させてください。
2022年、日本の安倍晋三首相が銃撃され亡くなりました。それは私にとって衝撃でした。日本は銃暴力で知られる国ではありません。それでその年の12月、私は彼について、日本について、そして日本の銃に対する姿勢についてもっと学ぶことにしました。休暇シーズンと仕事でのコード凍結期間もあり、私はかなりの時間をウィキペディアや、翻訳された日本のフォーラム、いくつかの公式文書を読み通すことに費やしました。大量の資料です。かいつまんで言うと、彼がなぜ正確に殺されたのかについての明確な答えはまだ得られていませんが、その出来事と彼の周囲の人々の視点について、より豊かな理解を得ることができました。
より多くの資料を読んでも、明確な答えは得られませんが、その出来事についてより豊かな絵を描く助けにはなります。私はそのテーマに十分な時間を費やし、それらの数週間で集めた知識を味わうことができました。
ChatGPTに安倍晋三がなぜ撃たれたのかと尋ねると、満足のいく答えを返してきます。それは正確で、いくらかのニュアンスも含み、おそらくもっと学びたいかと尋ねてくるでしょう。その答えはあなたの好奇心を満たし、あなたは次へ進みます…次の質問へ。
それはチャットインターフェースのせいかもしれません。ページ上の言葉が明らかに「もっと知りたいですか」と尋ねているにもかかわらず、どういうわけかあなたは新しい話題を始めることの方に熱心です。そして、提供された資料を戻って読み直すことはほとんどありません。
LLMに複数の質問をすることで「読んだ」本について、私はそれを理解しているとはとても言えません。はい、要点は知っていますが、一定のペースで本を読むことで築く知識の代わりにはなりません。LLMを使うことで大量の時間を節約できますが、その知識はつかの間のものです。一次資料を読むことは遅いですが、そのテーマにより深く没頭することができます。
LLMを通して読むことは、学習の摩擦を取り除くようですが、そうすることで知識を浅く、使い捨てのものにしてしまうようです。問題は、人間として情報を処理する方法にあります。私たちは要約から学んで専門家になるわけではありません。学習するための努力はそのプロセスの一部なのです。
子どもたちのあの無限の質問に対して、私が与える答えにはスナックのような性質があります。答えがあまりにも簡単に得られるので、私たちはそれをソーシャルメディアのフィードのように扱います。スクロールしていくと、一つは電池について、次はスタビライザーバーについて、そしてどういうわけかカリフォルニアの高速道路にたどり着きます。
世界の情報を指先に持つことは贈り物ですが、すべての要点を知ることは、何かを深く理解することと同じではありません。私たちはその要点を読んで人格を形成するわけではありません。むしろ、人格は情報を求める狩りから生まれます。手動プロセスの制限が、私たちに集中させ、一つのテーマにじっくり取り組ませ、本当にそれを内在化するまで導くのです。
あなたがすでに知識を持っている材料に関係しない限り、幻覚（事実誤認）を見つけることはほとんどできません。ちょっと待って。ここで何が起こっているんだ。ああ！わかった。箱がこっそりとまた開いていた。
この記事は気に入りましたか？コーヒーをおごってください。洞察に満ちたコメントをこちらで共有してください。
私のニュースレターに参加する
Twitter、Spotify、またはRSSフィードでフォローする
関連して、ここにいくつか興味深い記事があります。
現代の罠
あらゆる問題、あらゆる制限、あらゆるイライラするデバッグセッションは、同じ解決策を持っているように見えました：現代的な解決策を使うこと。現代の暗号化アルゴリズム。現代のデプロイメントパイプライン。現代のデータベースソリューション。「現代」という言葉は万能薬となり、私たちの当面の問題だけでなく、どういうわけか将来の問題までも完全に防ぐことを約束しています。
なぜ私はテック業界で働いているにもかかわらず懐疑的なままなのか
私の友人や家族がしばしば驚くことの一つは、私がどれほど技術を避けているかです。最新のガジェットを持っていません、ダムTVについて話しますし、私のiPhoneではSiriは有効になっていません。あとは台所に行って、アルミホイルのシートを取って、帽子に成形するだけです。
コンピュートの真のコスト
どこかで、私たちはサーバーについて話すのをやめました。その言葉は扱いにくく、工業的で、物理的な現実に結びつきすぎているように感じられました。代わりに、「クラウド」と言い始めました。それは重さがなく、無限で、ほとんど魔法のように聞こえます。あなたの写真はクラウドにあります。あなたの文書はクラウドを通じて同期します。あなたの会社の全体のインフラストラクチャはクラウドで実行されます。
まだコメントは追加されていません。
あなたの考えを聞かせてください
原文を表示
Let's do this thought experiment together. I have a little box. I'll place the box on the table. Now I'll open the little box and put all the arguments against large language models in it. I'll put all the arguments, including my own. Now, I'll close the box and leave it on the table.
Now that that is out of the way, we are left with all the positives. All the good things that come from having the world's information at our fingertips. I can ask any question and get an answer almost instantly. Well, not all questions. The East has its sensitivities around a certain square, and the West about a certain island, but I digress.
I can learn any subject I want to learn. I can take the work of any philosopher and ELI5 it. I can finally understand "The World as Will and Representation" by Schopenhauer. A friend gifted me a copy when I was still in my twenties, it's been steadily collecting dust ever since. But now I can turn to the book and ask questions until I thoroughly understand it. No need to read it cover to cover.
In fact, last year I decided I wanted to learn about batteries. I first went to the Battery University website and started to read lesson by lesson. But I had questions. How was I going to get them answered? The StackExchange network is not what it used to be, so I turned to ChatGPT. It had all the answers. I learned and read so much about batteries that I am tempted to start a battery company.
My twin boys are at that age where they suffer from the infinite WHYs. Why does it rain? Why does the earth spin? why does California still use the Highway Gothic font on some freeway signs? I do not have answers to these questions off the top of my head, but I have access to the infinite knowledge machine, so of course my kids know the answers now.
Just the other day, I had a shower-thought about cars. "Are cars just a slab of metal on wheels?" And now I learned that the answer is "essentially yes." But then I kept reading on the subject and learned about all those little devices and pieces of mechanical technologies that exist that I had never heard of. For example, the sway bar link. Did you know about it? Did you know that it reduces body roll and maintains stability during turns? Fascinating.
Ever since LLMs made their public debut in 2022, we've been gifted with this knowledge base that we can interact with on demand, day and night, at work or at home. The possibilities seem endless. I can learn or understand any codebase without being familiar with the programming language. And yet it feels like something is missing.
The more I access this knowledge, the more I feel the little box on my table is starting to open. Now this is just my opinion, but I'm starting to believe that the sum of all parts is still just one. Let me explain.
In 2022, the Japanese Prime Minister Shinzo Abe was shot and killed. It came as a shock to me, Japan is not a country known for gun violence. So in December of that year, I decided to learn more about him, about Japan, and about their stance on guns. With the holiday season and the rolling code freeze at work, I spent a good amount of time just reading through Wikipedia, some translated Japanese forums, and some official documents. A whole lot of material. Long story short, I still don't have a definitive answer as to why exactly he was killed, but I came away with a richer understanding of the story and the perspectives of the people around him.
Reading more material is not going to give me a definitive answer, but it helps paint a richer picture of the event. I spent enough time with the subject to appreciate the knowledge I gathered over those weeks.
When you ask ChatGPT why Shinzo Abe was shot, it will give you a satisfying answer. It will be correct, it will include some of the nuance, and will probably ask you if you want to learn more. The answer satisfies your curiosity and you move on... to your next question.
It could be the chat interface. Even though the words on the page clearly ask you "if you want to know more," somehow you are more keen on starting a new subject. And rare are the times we go back and re-read the material we have been provided with.
With the books I've "read" through an LLM by asking multiple questions, I can hardly tell you that I understand them. Yes, I know the gist of it but it doesn't replace the knowledge you build by reading a book at a steady pace. You save a whole bunch of time by using an LLM, but the knowledge is fleeting. Reading original sources is slow, but you get to better immerse yourself in the subject.
It seems like reading through an LLM removes the friction of learning, but in doing so it makes knowledge shallow and disposable. The problem is the way we process information as humans. We don't become experts by learning from summaries. The effort of learning is part of the process.
Those endless questions my children have, there is a snack-like quality to the answers I give them. Because the answers are so easy to get, we treat them like a social media feed. I scroll through and one post is about batteries, the next is about sway bars, and somehow I land on California highways.
Having the world's information at your fingertips is a gift, but knowing the gist of everything is not the same as understanding something deeply. We do not form character by reading the gist of it. Instead, character comes from the hunt for information. The limitation of a manual process forces us to focus, to dwell on a subject, until we truly internalize it.
You can hardly spot a hallucination unless it concerns material that you already have knowledge in. Wait a minute. What's happening here. Ah! I see. The box has crept back open.
Did you like this article? You can buy me a coffee. Share your insightful comments here.
Join my newsletter
Follow me on Twitter, Spotify, or RSS Feed
On a related note, here are some interesting articles.
The Modern Trap
Every problem, every limitation, every frustrating debug session seemed to have the same solution: Use a modern solution. Modern encryption algorithms. Modern deployment pipelines. Modern database solutions. The word modern has become the cure-all solution, promising to solve not just our immediate problems, but somehow prevent future ones entirely.
Why I Remain a Skeptic Despite Working in Tech
One thing that often surprises my friends and family is how tech-avoidant I am. I don't have the latest gadget, I talk about dumb TVs, and Siri isn't activated on my iPhone. The only thing left is to go to the kitchen, take a sheet of tin foil, and mold it into a hat.
The real cost of Compute
Somewhere along the way, we stopped talking about servers. The word felt clunky, industrial, too tied to physical reality. Instead, we started saying "the cloud". It sounds weightless, infinite, almost magical. Your photos live in the cloud. Your documents sync through the cloud. Your company's entire infrastructure runs in the cloud.
There are no comments added yet.
Let's hear your thoughts
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み