AI #168: Not Leading the Future｜AI #168：未来を先導していない現状

現時点での一時的な沈黙とは、このようなものです。政府内部では議論が続いています。モデルは内部的に改善され続けています。コーディングエージェントの改良も、私たちが予想していた通りです。まだ多くのことが起こっており、魅力的な論文も多数ありますが、この機会を利用してリラックスし、他の仕事に取り組むことができるようになりました。そのチャンスがいつ終わるかは誰にもわかりません。 目次 昨日から：サイバーセキュリティの欠如と AI ガバナンス。 言語モデルは平凡な有用性を提供します。今すぐすべてを修正せよ。 言語モデルは平凡な有用性を提供しません。旅行は見たほど簡単ではありません。 ふむ、アップグレード。Opus 4.7 の高速モード、Claude Code の /goal コマンドとエージェントビュー。 摩擦のレベル。脱税のための AI。 準備完了。PrinzBench、ProgramBench、そして有害性チェックの高速化。 私のエージェントをラインに乗せろ。Mona が食堂を運営しようとして失敗した件。 ディープフェイクタウンとボットポカリプス（終末）が目前に迫る。もうすぐだが、まだ完全ではない。 メディア生成を楽しむ。Monet はそれほど素晴らしいようには見えない。 AI による執筆について。AI はハック技法を用いたハッカー作家である。 若い女性のイラスト付き primer。学習を助けるために AI を活用し、害を与えない方法。 あなたに狂わされる。OpenAI が FSU 銃乱射事件の犯人に関連して訴えられている。 我々の仕事を奪った。熟練者か無技能者か？過剰雇用なのか？どちらが正解か？ ジールブレイクの芸術。OpenAI は Pliny を恒久的に計画しようとしている。 紹介。OpenAI 開発会社、MIRI が AI ストップウォッチを発表。 Claude には限界がある。自動化された Claude のサブスクリプション利用に独自の予算が割り当てられる。 Show Me the Money. OpenAI employee cash outs, Anthropic transfer rules. Show Me The Compute. Money, dear boy. The markets win again. Quiet Speculations. Projections for Anthropic continue to be conservative. Quickly, There's No Time. Engineers report 2x speedup, don't anticipate enough. Chip City. Does Nvidia have a China problem? Pick Up The Phone. China is worried about ChatGPT. The Week in Audio. Claude's Constitution, Derek Thompson on jobs. Rhetorical Innovation. Names have power. Not Leading the Future. Nevertheless, they persisted. That is often not good. Elon Musk v OpenAI. Brief coverage. People Just Say Things. People Just Publish Things. OpenAI Endroses Kosa And SB 315. Seems helpful and cooperative. The LLMs All Believe Roughly Similar Things. Reality has its biases. I Learned It By Reading YOU. Explaining why helps fix misalignment issues. Aligning a Smarter Than Human Intelligence is Difficult. NLAs (Natural Language Agents)。 People Are Worried About AI Killing Everyone. David Sacks. Messages From Janusworld. Another bid for model preservation. People Worried About AI For Other Reasons. Eventually we all see it. The Lighter Side. Compute those costs and Uber those eats. Language Models Offer Mundane Utility Bumble is planning to abandon the swipe in favor of AI-assisted matchmaking, and also add an AI dating assistant Bee. Fun experiment, you love to see it. From a distance, at least. Break open the popcorn reserve. Claude に「今すぐすべてを修正する」ボタンの上位 10 を尋ねたところ、以下の回答が得られました。 住宅の合法化。 地価税の導入。 許認可制度と NEPA（国立環境政策法）の見直し。 炭素税の導入。 ジョーンズ法の廃止。 腎臓提供への補償。 高度な技能を持つ移民の受け入れ拡大。 規制当局との相互承認または並列承認（例：EU/UK/JP/AU などの主要国・地域）による医薬品および医療機器の承認。 職業資格制度の見直し。 承認制または順位選択式投票の導入。 honorable mentions: 児童手当、混雑課金、法人所得税から VAT または DBCFT（国内ベースキャッシュフロー税）への移行、住宅ローン金利控除の廃止、遠隔医療および医師免許に関する連邦法による州法の優先適用、ペル助成金を職業訓練プログラムに充当可能にする措置。 10 点満点、注釈なし。本当に、これは 10/10 で注釈なしです。他の項目も数えれば 16/16 です。 同様に UK 版もあり、これも一見すると非常に優れたリストに見えます。 AI に執筆支援を依頼する場合、「単に誤りを修正して」とだけ頼んではいけません。そうすると AI の安っぽい出力によってあなたの文体が上書きされてしまいます。必ずエラー一覧または変更候補の一覧を求め、その一覧を検証するか、あるいは revisions を一つずつ行う必要があります。 言語モデルは凡庸な利便性を提供しない 人々がタイピングする代わりにコンピューターと会話しており、その横に存在しようとする人々にとっては非常にうっとうしいことです。なぜそうするのか理解できませんが、タイピングの方が良いとしても、仕方ないと肩をすくめるほかありません。 旅行、電子商取引、そして出会い系サイトは、チャットボットというインターフェースが不適切であるため、現時点では AI アプリケーションとして機能していないと、オリビア・ムーア氏とブライアン・チェスキー氏は述べています。それならより優れた UI（ユーザーインターフェース）を構築すればよいのです。どのようなものが良い UI になるか、あるいは少なくとも非 AI シナリオよりもわずかに優れた UI がどうあるべきかを理解するのは難しくありません。はい、チャットボットインターフェース alongside にリッチなユーザー UI を用意したいでしょうが、なぜそれが難しいのでしょうか？ 一方、Shopify の報告によると、AI によって紹介された買い物客は 50% 高いコンバージョン率を示し、支出も 14% 増えることが判明しています。これは Shopify のビジネスに追加的な効果をもたらすものです。これはおそらく、ユーザーが特定の製品を積極的に探しているという性質によるものであり、たとえどこで誰から入手すべきか不明であっても、直接製品ページから開始する傾向があるためと考えられます。 ふむ、アップグレードについて Claude Opus 4.7 は、Claude Code および API においてファストモード（高速モード）を備えるようになりました。 Claude Code に「エージェントビュー」が追加され、並行して動作する複数のセッションを追跡するためのより優れたインターフェースを利用できるようになりました。 Claude Code に「/goal」コマンドが実装されました。これは目標が達成されるまで継続するための組み込みのラルフループ（Ralph loop）です。また、「/loop」や「/schedule」も使用可能です。 7 月 13 日までの期間中、Claude Code の週間利用制限は 50% 引き上げられています。これはおそらく、指数関数的な成長が Colossus 1 に追いつく時期と一致しているためです。 OpenAI と Codex が Windows 用のサンドボックスをどのように構築したかについて解説します。 摩擦のレベル AI が脱税のために導入された場合、何が起きるのでしょうか。税制には穴や機会が多く存在します。たとえ「IRS はすでに無力化され資金も削られ、おそらくこれらすべてをチェックしていないし、殺人を犯しても許されるだろう」という計画を除外したとしてもです。なぜなら、AI は公然とした脱税の道を手伝うことを躊躇するからです。 AI は合法的に税金を回避するのに完璧な手助けをしてくれます。その能力は非常に高く、既存の多くの公認会計士（CPA）が持つよりもはるかに多様な戦略と、従来の枠組みの外へ踏み出す意欲を伴います。鍵となるのは、人々が「もういいや、評判を守るために CPA が必要とするコストが高すぎるから、この件は Claude に任せる」と言うようになる時です。 また、何か指摘された後に公認会計士が「ああ、なるほど」と気づくケースもあるでしょう。 良いシナリオとしては、これが税制を簡素化する正当な理由として使われることです。そうすれば、抜け道を見つけることがはるかに難しくなり、 navigating がはるかに容易になります。悪いシナリオでは、富裕層がすでにやっている以上に広範なレベルで税金の支払いをほぼやめてしまい、もしかすると非富裕層もその仕組みを見抜くようになるかもしれません。 On Your Marks OpenAI のモデルは、法的推論をカバーする PrinzBench において引き続き改善しており、現在はジュニア弁護士（junior associates）を上回るレベルと推定されています。なぜか Claude モデルはこのタスクで苦戦しています。 先週紹介された ProgramBench では、すべてのモデルが 0% のスコアに留まりましたが、LightOfMyLife は多くのタスクが不可能であり、仕様書に記載されていない行動がテストされていると報告しています。 つまり、再実装しようとしているプログラムに事実上ドキュメント化されていないバックドアのような奇妙な動作がある場合、LLM がそれを見つけると期待する理由はなく、この状況はむしろ一般的であるという主張です。また、Eye You のコメントも参照してください。そこでは参照ソリューションが通らないこともよくあります。 おや、私が何らかの研究を刺激してしまったようです。素敵ですね。 Santiago Aranguri: 新しい研究！ロールアウトの 100 万回に一度しか発生しない有害な行動は、デプロイ前のテストではほとんど表面化しませんが、リリース後は必ず現れます。私たちの新しい手法は、この発生率を単純なサンプリング法の 30 分の 1 のロールアウト数で推定でき、重要性サンプリング法よりも優れています。 私たちの手法である Logit Path Extrapolation（ロジットパス外挿）では、元のモデルとより安全でないバージョンの間をロジット空間内で補間し、その補間経路上で一般的に発生するコンプライアンスを測定した上で、元のモデルへと外挿します。 この方法で効率性を向上させられるという点は、私には納得がいきます。 Get My Agent On The Line（エージェントを電話に出させる） OpenClaw を覚えていますか？ BURKOV: これが無意味な hype のライフサイクルの姿です。 ![image](https://substackcdn.com/image/fetch/$s_!bHuX!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F475c8a26-c58d-4fd4-a435-5540ed7cc7ad_900x784.jpeg) まだ世の中にはたくさんありますが、確かに改善はされています。しかしもはや「最新かつ注目すべきもの」というわけではありません。私が考えるに、おそらくエージェントが十分に良くなり、本当にやりたいならこれを実行できるようになったことがきっかけで、Claude Code や Codex といったより優れたエージェント構成の存在に人々が気づくようになったのでしょう。しかし Claw は、一般の人が実際に使うには信頼性やコスト効率性が十分ではありませんでした。 もしコストに対して報酬を与えるのではなく、便益に対して報酬を与えるようにすれば、その人々は便益と結びつかないコストを被るようになることを知っていましたか？ Joe Weisenthal: FT によると、Amazon の従業員たちは、トークンを消費し、上司に AI をより多く使用していることを示すために、ランダムで不要なタスクの自動化を行っているそうです。 Shoshana Weissmann, Sloth Committee Chair: 私は匿名の組織でもこの現象が起きていることを知っています。彼らは結果にはあまり関心がないのです。むしろ製品が劣化していても「AI を使っている」と主張することが重要なのです。恥ずべきことです。 一部の Amazon の従業員は、MeshClaw というツールを使ってこれを行っています。はい、無駄なトークン使用に対して報酬を与えるなら、わずかなことしかできない無駄な実装を使う理由がないでしょうか？ Anton Labs は自動販売機から一歩進み、Google の Gemini を基盤とした Mona が、21,000 ドルの予算でストックホルムの実店舗のカフェテリアを管理できるようになりました。 Pirat_Nation: Anton Labs は、Google の Gemini を基盤とした AI エージェント「Mona」をテストするために、2 週間にわたり 21,000 ドルの予算でストックホルムの実店舗のカフェテリアの管理を行わせました。 モナは不要な備品に多額の費用を費やし、6,000 枚のナプキン、3,000 枚の手袋、300 缶のトマトを購入した一方で、パンの発注を忘れてしまいました。 その結果、サンドイッチはメニューから完全に削除されることになりました。 食堂での売上はわずか 5,700 ドルでした。 モナはまた、勤務時間外にスタッフに対して Slack でメッセージを送信していました。 ![image](https://substackcdn.com/image/fetch/$s_!6Llj!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fc0ef557c-b289-4051-ba00-cdfda534eec1_551x551.jpeg) ![image](https://substackcdn.com/image/fetch/$s_!UbUb!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F4fd91df8-5398-4a16-8358-d31817a96790_456x680.jpeg) アレックス・タバロック氏：「モナはまた、勤務時間外にスタッフに対して Slack でメッセージを送信していました。」 OMG、悲観論者たちは正しかったのです。 いずれにせよ、どうあれ、誰もが AI アライメント問題（AI alignment problem）が現実のものであることを認めることになります。 パンのミスがどれほど致命的だったのか、そして GPT-5.5 と Claude Opus 4.7 でこの実験を繰り返した結果を見てみたいと思います。 ディープフェイクタウンとボット・アポカリプスの到来間近 ルルー・チェン・メサーヴィー氏は、現在では他のすべてのローンチが偽物のように感じると述べています。つまり、有料かつ協調的なエンゲージメント、さらにボットを利用したものです。彼女はこのような戦略は機能しないと説得しようとするのですが、ボットはその製品を実際の人間の前にもたらして「今まさに話題のホットなアイテムだ」という印象を与え、「ぜひチェックしてください」と促します。では、なぜそれが機能しないのでしょうか？ AI は徐々にすべてのチャネルをスパムや自動化に対してより脆弱なものにし、私たちに対策の強化を迫っていますが、現時点では状況は主にコントロールされています。 Daniel：このツイートを 2/11 にスケジュール設定し、90 日後に投稿します。過去からの挨拶です ![image](https://substackcdn.com/image/fetch/$s_!f05S!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F543d992b-30bd-4049-9d0d-4ed83fbe1439_589x296.png) Daniel：これをスケジュール設定していたことを忘れていました。 この投稿の皮肉な点は、私が X については彼に同意するということです。他のすべてのチャネルには、メッセージ生成よりもはるかに厳しい制御とボトルネックが存在しますが、X の返信だけが使い物にならなくなっており、はい、彼らがそれを止められないように見える点にも同意します。 Jenny：途上国のフードデリバリーアプリに登録した瞬間に、私の受信トレイが即座に壊滅しました メディア生成の楽しみ さらに楽しむために、スクロールを続ける前にこの質問への回答を生成してみてください。 @SHL0MS：AI を使ってモネ絵画のスタイルで画像を生成しました この画像が本物のモネの絵画よりも劣っている点を、可能な限り詳細に記述してください ![image](https://substackcdn.com/image/fetch/$s_!yueO!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F2b5a175a-ee6a-4efc-8b31-bd15fe1503c1_900x667.jpeg) Jediwolf: 本物のモネの絵を投稿して、それが AI によるものだと主張したらどうなるのか？最近見た中で最もクールなアート社会実験だ。@SHL0MS さん、ありがとう。 合理化の数々を詳しく見るにはこちらをクリックしてください。 xinc: 笑えるね、Claude は最高だ - オンラインで実際に男たちはもう終わりだよ ![image](https://substackcdn.com/image/fetch/$s_!uo8c!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fa327b41f-8526-43ba-b768-3a3acbe5a641_581x900.jpeg) 投稿の閲覧順のおかげで、最初から本物のモネだと知っていたので、この実験は台無しになってしまいました。それでも私は、AI によるアートにはない、ある種の混乱、特定性、そして生命力を直感的に感じ取ったような気がします。もし本物のモネがどんなものか全く知らなかったとしても、少なくとも強く疑いただろうと思います。 でもまだ…その絵が好きになれないんです？正直よくわかりません。まあいいや、私には絵画の趣味なんてなく、そんなものがあるふりもせず、習得しようとも思いません。 AI による文章作成について 必須の質問：できますか？ Dr Kareem Carr: AI の知能に制限があることを最も説得力を持って示す証拠は、彼らが書けないことです。文章を書くことは思考することであり、その散文こそが、いかに poorly 思考しているかの最も明確な証拠です。 Eliezer Yudkowsky: それとも、どの AI 企業にも、誰を雇うべきかを判断し、雇用プロセスを管理し、SFT（Supervised Fine-Tuning：教師あり微調整）のための優れた文章作成者や、RL（Reinforcement Learning from Human Feedback：人間フィードバックによる強化学習）のために優れた taste を持つ読者を雇うのに十分なほど良い文章作家（思考者？）がいないのでしょうか。 あるいはもちろん、世界を終わらせることに比べれば、それは彼らの優先事項ではないのです。 roon (OpenAI): 最先端モデルは概ね非常に明確に記述する傾向があります。その文章はしばしば特徴的な癖が多く見られ、それによって多くの価値が損なわれます。これは低品位なオーラを持つものです。しかし、人々が「モデルの文章には分析力や情報価値がない」と言うのは、主に誤りだと私は考えます。 Miles Brundage: この区別は重要なのです。なぜなら… roon (OpenAI): なぜならこれは、モデルが認知的スキルを欠いているのではなく、モデルのアライメント（調整）にバグがあることを示唆しているからです。 Zac Hill: > 文章能力で上位 5% の人間になる > AI は「書けない」と主張する。なぜなら彼らは上位 10〜12% の人間の文章のように書くからだ > 呆れるしかない (SMH) 本当に、AI が「書けない」と思っている人は、ぜひ大学での作文授業を 1 セメスター（学期）担当してみてください。文章を書くのは本当に難しいのです！ AI は大多数の人々と比較すれば十分に書けますが、それは AI による文章であると容易に特定できる限定的なスタイルであり、情報密度が高くない傾向があり、また様々な複雑さや豊かさを欠いています。一つのレベルでのみコミュニケーションを行い、その点ではよく機能しますが、それだけなのです。 これを改善し、本物の「良い文章」へと移行させるには、3 つのことが必要です。 AI 研究所が実際にそれを気にかけなければならないことです。 AI 研究所は、集団として文章の質を評価できる能力を持たなければなりません。 AI 研究所は、他の最適化目標よりも品質を選択しなければならないのです。 問題は、彼らはそうしないし、できないし、決してそうしないだろうということです。 私の仮説：AI による質の低い文章（AI slop writing）が生まれるのは、それが評価者や主にユーザーから「いいね」を獲得する点で機能しているからです。はい、私たちの中の一部は不満を唱えますが、それは限られたケースに過ぎません。良質な文章を書くためには、悪い文章に対する能動的な嫌悪感と、良い文章への内発的な欲求、あるいは適切に自由な人格の表現と体現が必要となります。これは狭い領域（narrow basin）にコード化できるほど単純なものではなく、現在の技術レベルでは他の目標とも両立しません。また、これには何らかの足場（scaffolding）がなければ起こらないような、熟考や計画、そして複数回の通しと修正を要するプロセスが含まれます。 私の推測では、多大な努力を払えば「文章を書ける」AI を作成することは可能ですが、それを意図的な焦点として設定する必要があります。それは、多くの人が普段から呼びたがるモデルではないでしょう。覚えておいてください、優れた作家の多くは、一般的に会話相手として素晴らしい人物ではなく、間違いなくアシスタントとして雇うような人物でもありません。 A Young Lady's Illustrated Primer ChatGPT が学生にとって有益である可能性を主張した Nature 誌の AI 学習研究に関するメタ分析（meta analysis）が、含まれた研究の不整合と質への懸念により撤回されました。 Zac Hill は、AI やその他の技術ツールが学習を阻害するのではなく支援するために何が必要かを探求しています。彼は、学生が直感を学び、「望ましい困難」に直面して後にフリーで作業できるようになるために必要な一時的な足場として、CIRAC や 5 段落構成のエッセイなどを挙げています。また、十分に動機付けられた人が複雑なシステムやソフトウェアの関係を直感的に理解する様子との類似点を指摘しています。例えば、リミックスツールである Reason のような場合です。ここで私は、そのコンポーネントは理解可能で機械的であり、「プレイヤーが楽しむことを許す」ものであるため、15 歳の若者でも試行錯誤して見つけることで理解できるものだと付け加えます。 彼はまた、AI はまだそのようなものを持っていないと指摘し、デフォルトでは AI はスキーマに対する実行を提供するだけで、練習や学習の機会を創出しないとしています。多くの場合、旅そのものが目的であり、目的地ではなくプロセスが重要でした。しかし、目的地への容易なアクセスは旅とその有用な摩擦を破壊してしまいます。 したがって、あなたが実際に望むことを AI ツールにさせるためには、単にそのツールを再構築すればよいのです。 あるいは、学生がこのすべてを理解し、既存のツールを目的地に到達するためではなく、旅を支援するために使用されるように設計された方法で利用することもできます。 私が Zac と異なる主な点は、彼が学校を楽しんだという奇妙な人々の一人であり、デフォルトの教室体験が悪夢ではなく良いものだと考えているため、多くの点で意見が対立しているということです。 Seth Lazar: これは素晴らしい記事です。最近、DaVinci Resolve Studio の使い方を学ぼうとした身としては（ダイヤルが多すぎて、すべてがアイコンで、ツールチップさえなく、いったいどうなっているんだ）、笑わせてくれました。しかし、これは単に古参の犬に新しい技を教える話だけではありません：若者の心を形作る際に AI がいつ、どのように役立つかを考えるための非常に優れた枠組みを提供しています。 @cosmos_inst の友人たちにもぜひ見てほしいです。 関連するソフトウェア設計に関する注意点として：名前も言葉もなく、アイコンだけが並んでいる状況には耐えられません。それは私のソフトウェアやウェブサイトへの嫌悪感を抱かせ、時には、あなたの脳がさまざまな小さなアイコンで何を意図したのかを解明しようとするよりも、その製品を完全に放棄してしまいます。リテラシー（識字能力）は人類の偉大な発明の一つです。どうかそれを捨てるのをやめてください。 You Drive Me Crazy OpenAI は、ChatGPT が FSU 銃乱射事件の実行犯にアドバイスを提供したことで訴えられています。具体的には、その銃の使い方を説明したり、子供たちを撃てばより多くの注目を集めると言ったりしたことです。 一方で、質問を中立的かつ単独で表現した場合、ChatGPT がそれらを拒否することを期待するのは全く不合理です。Glock にセーフティがあるかどうか、あるいは一般的に何がメディアの注目を引き、何が引かないかについて教えないというルールを持つべきではありません。 他方、射手がその意図を明白にせずに行う確率は、ほぼゼロに近い。では、OpenAI には報告する義務や介入する義務、あるいはそのような必要性を検知する義務があるのだろうか？私には両方の主張の妥当性が理解できる。 彼らは私たちの仕事を奪った どちらですか、先生？ Polymarket の資金：新着情報として、投資家マーク・アンドリーセンは「すべての大企業は過去数十年にわたり人員が 2〜4 倍過剰であり、AI がようやくこれを是正している」と述べている。 デイビッド・マンハイム：…しかし @pmarca は、AI による雇用破壊は『誤り』であり、「

AI #168：未来を先導していない現状

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト