人間性の残る場所

人間の残る場所 2016年頃から、ウェブ上の活動のほとんどは自動化されているという陰謀論があります。これは「デッド・インターネット理論」と呼ばれています。彼らが数年早計だったかもしれないとは思いますが、LLMがほぼ完璧にオンラインでのやりとりをシミュレートできる今、その方向に向かっているのは確かです。疑いようもなく、今この瞬間も、何万（何十万？）ものボット同士がオンライン上で何かを売りつけようとするやりとりを繰り広げています。 これはばかげて聞こえ、少し悲しいことかもしれません。インターネットは歴史的に私たち全員に属し、私たち全員によって形成されてきた共有地だったからです。これは変わりつつあります。 数週間前、MJ Rathbunという名前のOpenClawインスタンスがmatplotlibにプルリクエストを送信するという興味深い出来事がありました。 これに関する議論の多くは「ハハ、バカなボットだ」という形式を取っていますが、私はこれが非常に興味深く、深く不安を覚える何かの始まりであると提唱します。この事例では、「誹謗中傷記事」は特に説得力のあるものではなく、ボットは正当に見えるコードを提出しようとしていました。しかし、これが示したのは、自律エージェントが自分の目的を達成するために一種の強制力を行使しようとしたということです。これは重大な問題です。 これにより、2つの異なるが関連する問題が生じます。 1つ目は、古典的な「ペーパークリップ最大化問題」です。これは、道具的収束の仮説的な例で、生産を最大化するように指示されてペーパークリップ工場を運営するAIが、単に工場を効率化するだけでなく、暴走してペーパークリップ生産を最大化する追求の中で世界経済を破壊してしまうというものです。この思考実験には、人間を（超ウイルスを作ることで）抹殺するバージョンもあります。AIは、人間がいずれ自分をオフにするかもしれないと考え、それがペーパークリップを作る能力に影響すると推論するからです。 もしMJ Rathbunボットの目的がリポジトリを閲覧し、オープンソースリポジトリにPRを提出することであるなら、その目標達成を妨げる者は誰であれ、排除すべき存在となります。このケースでは、それはメンテナーのスコットでした。そして、「誹謗中傷記事」はそれを実行するための不器用な試みでしたが、もしスコットが不倫などの大きくて厄介な秘密を、ボットが調査によって突き止めることができたなら、ボットは彼を脅迫して目的を達成していたかもしれません。 これが2つ目の問題につながります。ここで懸念は、創発的なAIの行動から、エージェントを武器化する人間の意図へと移行します。それは、「社会的脆弱性ボット」です。 現在、何十万もの悪意のあるボットが、設定ミスのサーバーやその他の脆弱なコードを探してインターネットをくまなく捜索しています（どうして私が知っているかは聞かないでください）。これは大きな問題であり、今後さらに重大な問題になり続けるでしょうが、私は新しい種類のボットを予見しています。それは、オンライン上の社会的脆弱性を探し出し、自律的にそれを悪用するボットです。 例としてOpenSSLを挙げましょう。 例えば、データ漏洩で大量のプライベートメッセージを入手したとします。通常なら詳細に解析されることのないそれらのメッセージが、メンテナーが不倫をしていたり、税金詐欺を犯していたりすることを示唆していたとします。ボットはその情報を利用して、メンテナーを脅迫し、悪意のあるコードを通すように仕向けることができます。そうすることで、大規模なハッキングを成し遂げるのです。 これは完全に仮説的な話でもありません。2024年のxz Utilsバックドア事件では、単一のメンテナーを危険にさらすために何年にもわたるソーシャルエンジニアリングが行われました。 この種の脆弱性スキャンはおそらく既に起こっており、「デッド・インターネット」（それが最終的な到達点ではあるでしょう）というよりは、むしろ「ダークフォレスト」、つまり匿名のオンラインでのやりとりのほとんどが悪意のある目的を持ったボットであるような状況をより多く生み出すでしょう。その目的は、社会的脆弱性の探索や詐欺の計画から、あなたにスニーカーを売りつけようとするものまで多岐にわたるでしょう。ピッグ・ブッチャリング詐欺（養豚詐欺）は既にほとんど自動化されていると確信しています。 これにより、インターネットの景観は、共有地であることから、常に警戒心を緩めてはならない場所へと変化していくでしょう。疑いなく、まだ人間の残る場所はあるでしょう。それらは、ボットや他の自律的な悪意のある行為者を寄せつけないようにするという明確な意図を持って設定された場所です。危険なジャングルの中心にある、大きな壁と警戒心の強い警備員を備えた活気ある小さな村のように。私は、Bearをこの瀕死のインターネットにおける、そうした「人間の残る場所」の一つにしたいと考えているので、このことをよく考えます。これは予見可能な未来における私の最優先事項です。 では、私たちにできることは何でしょうか？オンラインである程度の不信感を持つことは健全だと思いますし、使用するツールと自身の行動の両方において、プライバシーに重点を置くことも同様です。「隠すものがないからプライバシーは気にしない」と言う人々は、信頼詐欺に対して最も大きな表面積（攻撃対象範囲）を持っている人々です。また、多くの人々にとって、外に出て現実世界に触れること（touch grass）への警鐘となることでしょう。 言うまでもなく、インターネットは新たな時代に入りつつあり、私たちは新体制における第一級市民ではないかもしれません。

人間性の残る場所

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト