AIEWF 日次レポート：自己研究と AI・人間主体性の緊張関係

![image](https://substackcdn.com/image/fetch/$s_!yyfq!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F5879355c-6a34-432c-bd6a-a4ace5715f5e_1280x850.jpeg) 「一度の試みで設計することはできない」——今日、AIEWF でポール・バカウスがそう語った。 水曜日は、AI エンジニア世界博覧会（AI Engineer World's Fair）のメインステージにおいて「自己研究（autoresearch）」の日であった。 自己研究とは、ご推察の通り一種のループである。イントロスペクション共同創設者のローランド・ガヴリレスクは、今朝の Latent Space でのインタビューでこれを最もよく説明した。彼は、自己研究が「エージェントがシステム自体を維持するループを構築できる」と述べた。これは主要な内側のループを「調査し維持する」外側のループ（outer loop）であると称された。 Claude Code を担当する Anthropic のタリク・シヒパルは、自己研究という用語を具体的に言及しなかったが、彼の基調講演は継続的な発見と適応という同じ考え方を反映していた。「モデルは開発されるのではなく、成長する」と彼は言った。「私たちはモデルを使用しながら、モデルとともに発見し学習していくのだ」。 ![image](https://substackcdn.com/image/fetch/$s_!pnSj!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F101677a1-5186-4db9-9b98-8376f22dbad0_1280x800.jpeg) AIEWF に出席した Anthropic のタリク・シヒパル。 元 Google エンジニアリングリーダーのアディ・オスマニもまたループについて語ったが、彼の枠組みはガヴリレスクのそれとは鋭く異なっていた。 自律研究によりエージェントがシステムを調査・維持するループに組み込まれる中で、オスマニ氏は外側のループは人間が担うべきだと主張した。「エージェントは内側の実行ループの多くを処理できる」と彼は述べた。「しかし、その外側のループはまだエンジニアリングの領域だ」。彼の要約はさらに直接的だった。「内側のループは能力（capability）であり、外側のループは主体性（agency）である」。 ![image](https://substackcdn.com/image/fetch/$s_!hchG!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fd19ebe6a-9249-4038-a2a1-7ba5ec745724_1280x705.jpeg) Addy Osmani の主体性ラダー 人間の主体性は依然として重要である エージェントが何をすべきか、人間のエンジニアが何を維持すべきかという緊張関係は、一日を通じて繰り返されるテーマであった。また、火曜日を支配した「ソフトウェア工場」という枠組みに対する反発もいくつか検出された。Notion のジェフリー・リットによるこのツイートがそれを要約している。 @charlieholtz 説教するな！ 「工場」という言葉は未来の悲観的なビジョンであり、比喩は重要だ リットは本日のデザインエンジニアリング・トラックで多くの聴衆を集め、「なぜ人間がコードを理解する必要があるのか」というテーマについて講演しました。リリー・チャン氏はその要点をツイッターで「未来は非常に二極化するだろう。理解できる者は次々と大きなアイデアを生み出し続ける。理解を委任する者はエージェントに置き換わられることになる」と投稿した。 その後、リット氏は自身の主張を補足するスレッドを投稿した。彼はエージェントがプロセスのより多くの部分を処理できるようになっていることを認めつつも、人間は依然として何が起きているかを理解する必要があると述べた。「エージェントが何をしているかを学ぶことで、創造的なプロセスにおける能動的な参加者となれるようにできる」と彼は記している。 人間の主体性を強化しようとしたもう一人の AIEWF 登壇者はポール・バカウス氏で、彼の新しいデザインツール「Impeccable」についてセッションを行った。バカウス氏は、手作業だけで完全にデザインし続けることと、「ループ最大化」して完全な無人プロセスを目指すことの両極端を拒否した。「真実はその中間にある」と彼はセッション後に私に語った。 彼の目標は、エージェントが労働の最初の 80% を処理するのを任せ、人間を最後の 20% に戻すことだ。そこでは「独自のものにするために、あなたの taste（嗜好）や point of view（視点）を本当に反映させる」のである。 「自動などないし、将来も『自動』は存在しない。」 - ポール・バカウス氏、Impeccable バカウスにとって、それは今日のモデルの一時的な制限に過ぎません。また、著作者性と、自分の作品に対する責任を受け入れることでもあります。「人々は目的を必要としており、自分が創造するものにおいて役割を果たしたいと考えています」と彼は言いました。「エージェントと協力すれば、製品に対する所有感がより強まります。」 この哲学は、Impeccable 自体に組み込まれています。「オート（自動）はなく、今後もない」とバカウスは聴衆に語りました。彼が意味するのは、自社の製品が決して「ワンショット」で解決策を提示するものではないということです。ユーザーは設計プロセスに関与する必要があります。「ポイントは、あなたが最終的に得たいものを舵取りできる方法を提供することです」と彼は付け加えました。 生成メディア 生成メディアに関するパネルでも同様の質問が浮上しました。画像、動画、音声モデルの能力が高まるにつれ、問題は単に何を生み出せるかではなく、その結果を形作る判断が誰のものかという点にあります。 Nano Banana を含む Google の生成メディア製品を手掛けるニコル・ブリチトバは、平均的な嗜好と洗練された専門知識の間にはっきりとした区別を設けました。「職人を磨き上げた人は、非常に異なるレベルの専門知識を持っています」と彼女は言いました。「平均的な人間が見えないものが見えるのです。」 ![image](https://substackcdn.com/image/fetch/$s_!JX28!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fd3cfc820-15ab-4a95-ac1a-f453700888dd_1280x850.jpeg) これは、すべてのモデルにはデフォルトの美学があり、その創作者がそれを認識しているかどうかにかかわらず存在するからです。"最終的には私たち自身になるのです"とブリチコワは言いました。"結局のところ、モデリングチームになるのです。"彼女は、モデル開発者は「非常に創造的な視点を持つ人々」とより密接に協力する必要があるかもしれないと示唆しました。つまり、アートディレクターをループに戻すことです。 シェーン・グーも、より広い文脈で同じ点を指摘しました。モデルが自身の出力の生成や洗練においてますます上手になるにつれて、彼は人間は何が間違っているのか、一般的すぎるのか、不十分なのかに気づくための感受性を維持しなければならないと主張しました。 "おそらく今、AI はプロンプティングのほとんどを処理でき、それで十分かもしれません。しかし、そうであるなら、AI がコンテンツを生成していることに決して満足してはいけません。常にあなたの感受性を見つけてください。" エージェント型サイト 究極の人間情報ネットワークであるウェブ自体でさえ、どの程度の自動化を使用すべきかについて葛藤しています。 午後のセッション「エージェント型サイト」において、アドビのシニアサイエンティストであるカルロス・サンチェスは、訪問者の意図に基づいてリアルタイムでページを構成しパーソナライズするウェブサイトを実演しました。彼はこの移行がますます避けられないものとして提示しました。「これは今や可能になりました。より良くなる一方です。安くなる一方です。速くなる一方です。」 ![image](https://substackcdn.com/image/fetch/$s_!OGEi!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Ff7fdeb44-4405-444d-9ff1-977f40b1976f_1280x800.jpeg) しかしサンチェス氏も注意を促す声を出した。「AI を使えば、ものを作るのは非常に簡単だが、何を作るべきかを知ることは難しい」と、彼は後に私に語った。これは、エージェントがブランドの代わりに体験を生成する際、特に重要になる。「サイト全体をただ生成すればよいわけではない」と同氏は言う。なぜなら、その結果がブランドのガイドラインから逸れてしまう可能性があるからだ。 これにより議論はオートリサーチ（自動調査）に戻ってくる。エージェントはますます他のエージェントを観察し、評価し、改善できるようになるかもしれないが、人間が依然として目標を定義し、結果を判断し、ループが生み出すものに対する責任を負わなければならない。 アジェンシー技術が現在どれほど印象的であっても、自動化された「ソフトウェア工場」というアイデアがどれだけ魅力的であっても、你还是ループの中に人間が必要である。

AIEWF 日次レポート：自己研究と AI・人間主体性の緊張関係

背景や根拠まで確認しますか？

調べる

選ぶ

サイト