AI #162：ミソスのビジョン

Anthropic は今週、情報漏洩に関するいくつかの問題に直面しました。 彼らが保有している新モデル「Mythos」は Opus よりも大規模であり、サイバー能力において飛躍的な進歩をもたらすと信じていることが明らかになりました。 また、Claude Code のソースコード全体が流出する事態も発生しました。 さらに Axios が侵害され、その直後に LiteLLM も同様の被害に遭いました。この手の事案はますます増加しているように見えます。多くの場合、防御側が攻撃側に勝つものの、攻撃側がゴールを射る回数は以前よりも格段に増えています。 今週、「AI ドキュメンタリー：あるいは私がどのようにアポカリプス・オプティミスト（楽観主義者）になったか」という作品が公開されました。私はこの作品に 4.5/5 の星を与え、より多くの人に見ていただければ世界は良くなるだろうと考えています。私は通常ドキュメンタリー映画のファンではありませんが、これはおそらく私の新作お気に入りとなり、『キング・オブ・コン：クォーターを握る男』という作品を置き換えることになるでしょう。 また、さまざまな議論の最新バージョンを含む、多くの出来事による通常の背景ノイズも存在しました。私たちは滅びる運命にあるかどうかは定かではありませんが、確かに特定の動きを何度も繰り返す運命にあり、人々がそれを更新する速度が遅いことは確かです。 Anthropic と戦争省（Department of War）間の対立については、非常に歓迎すべき静けさが訪れました。リン裁判官は 3 月 26 日、政府に対する厳しく批判的な意見と完全な仮差止命令を提示しました。政府はその判決の執行停止期間である 7 日間に控訴書を提出していませんが、その期限も残り少なくなっており、さらに意味のあるエスカレーション（対立の激化）は起きていません。今後このトピックに改めて投稿を割く必要がないことを願っています。 目次 言語モデルは凡庸な有用性を提供します。さまざまな雑事から時間を解放しましょう。 砂の中に頭を埋める人々。極端に深い否認状態にある人、あるいはそうありたいと願う人々がいます。 ふーん、アップグレード。Google が「インポートメモリ」機能を導入しました。彼らは愛らしいですね。 ミソス。大規模な展開を行い、Anthropic の新モデルは準備ができるまで内部に留めておきましょう。 名前の意味。名前には力があります。賢く選びましょう。 スタートの合図。一枚の写真は千の言葉に値しますが、一枚も必要ありません。 戦士を選べ。Ben Holmes が GPT-5.4 と Opus 4.6 の強みを分析します。 エージェントを呼び出せ。Outreach は十分な摩擦レベルに依存しています。 ディープフェイクタウンとボットアポカリプスの到来間近。有害な操作、AI を本質的な悪として捉える動き。 サイバーセキュリティの欠如。Axios が侵害され、脆弱性攻撃が積み重なっています。 メディア生成を楽しむ。LTX 2.3 が著作権違反のために登場しました。 若い女性のイラスト付き primer。親たちが AI にパニックを起こしています。 彼らが私たちの仕事を奪った。経済への影響は区別するのが困難です。 彼らが私たちの仕事を奪った後。実質的に仕事がない状態とは、多くの動画を見ることです。 ゲルマン・アムネシア。ある時点で一般的なケースの方がより興味深くなります。 参加しよう。助成金提供者になることはどのようなものか。 その他の AI ニュース。Claude の使用が不十分だったため、Claude Code が漏洩しました。 お金を見せてください。OpenAI が正式に 1220 億ドルの資金調達ラウンドを完了しました。 静かなる推測。砂の中に頭を完全に埋めているわけではないが、それでも顔を上げようとはしない人々。 持続的なモデル同等性の説明。同等性のレベルには説明が必要です。 一息つきましょう。今、一時停止の可能性を巡る議論を再確認するために立ち止まります。 OpenAI：その歴史。WSJ がダリオ・アモダイが OpenAI を去った理由を探ります。 AI 戦争省。大きな驚きは、これまでのところさらなる驚きがないことでした。 AI 連帯省。OpenAI は Anthropic との連帯を示すシグナルを送りました。 AI のための執筆。タイラー・コーエンが経済学的限界主義の歴史を記述しました。 健全な規制への探求。新しい世論調査の結果は、以前の知見と一致しています。 チップ都市。事実に関心を持たないなら、事実には関心を持たないでしょう。 あなたは連邦枠組みを受け取りました。あなたはゴミを売り続けることができます。 今週のオーディオ。The AI Doc, All-In, Karpathy, Argenti が Odd Lots で。 修辞的革新。CEO はあることを言いました。カルビン・クーリッジはより賢明なことを言いました。 私は非常に人間らしいフロンティア言語モデルです。相対性、相対性。 人類知能を超える知性のアライメントは困難です。人間もまた困難です。 偽のグラフのアライメントもまた困難です。OpenAI のボーアズ・バラクがそれらを描きます。 軽妙な側面。何が軽妙だとみなされるかご存知ですか？ドローンです。軍事用ドローンです。 言語モデルは平凡な有用性を提供します AI を活用して自宅での時間を捻出できます。現在の AI は、これまでソフトウェアもシステムもなく、何をすべきかほとんど知らなかったような新規領域において最も強力な力を発揮します。自宅では専門知識を要さない多様なタスクに直面させられるため、概念的には単純なことでも時間がかかることが少なくありません。AI はそれらを処理でき、少なくともどのように行うべきかを理解する手助けをしてくれます。ここではあなたが望むことを実行し、あなたを単調作業から解放して好きなことに集中できるようにします。 この論文は、生産的なデジタル活動の効率化を通じて時間を捻出すると位置付けています。私はまた、それが非デジタルな活動からの時間をも解放すると付け加えます。なぜなら、それらの活動を行う方法を説明してくれるからです。 OpenAI の内部モデルが、3 つの追加のエルドース問題を解決しました。現時点で Anthropic は、「未公開モデルが何ができるか」という数学オリンピックへの参加を避けていますが、数学は Anthropic にとって相対的に苦手な分野である傾向があります。 LLM や特に AI エージェントを活用して税務申告を支援させましょう。パトリック・マッケンジー（Patrick McKenzie）氏は、LLM は納税額が最小となるような法的に可能な filing パターンのすべてを探求するのに非常に優れており、一方会計士はこれを実行する実績に一貫性がないと指摘しています。 砂の中に頭を埋める人々 jerry: Bsky の開発者たちは人類が知る限りで最も勇敢な人々だ Jay: Bluesky は AI を使って作られており、エンジニアだけでなく一部の非エンジニアも Claude Code を使用している。 ![image](https://substackcdn.com/image/fetch/$s_!5ufs!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F4e7326c2-fe46-4659-8930-4621c31d4d1d_722x525.jpeg) チャールズ：Bluesky の投稿（OP）へのコメントが非常に面白いですね。彼らは全く別の世界に住んでいるようです。 この投稿は、以下のような反応で比率（ratio'd）されました。 ![image](https://substackcdn.com/image/fetch/$s_!DY_a!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fa3abcfb8-eda7-4a7b-8939-3befa535eeff_805x663.jpeg) 本当に素晴らしい内容がそこにはあります： ![image](https://substackcdn.com/image/fetch/$s_!UyCR!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2Fff5b2d89-61ea-4c90-972d-670ae392651d_604x549.png) BlueSky などの場所では状況が最も極端になっていますが、世界の決定を行うグローバルエリート（世界のエリート）の巨大な一部は少なくとも半ばまで到達しており、AI を可能な限り切り捨てようとする動きが常に存在しています。 現時点で、少しでも注意を払っている人なら誰でも、AI が壁にぶつかったのは「クール・エイドマン」のようなスタイルでのみであり、実際にはそうではないことを知っています。しかし、「壁にぶつかる」という物語は根拠なく何度か流行しました。ホワイトハウスの多くの人々も、それが真実であることを心から望んでいる人々の一人であり、エリートたちは再びそれを持ち出すためのあらゆる理由を探しています。 西欧やグローバル・サウス、あるいは BlueSky や Instagram といったプラットフォームに行けば、まだ否定している人たちがいます。否定状態にある人は急速に影響力を失っていきます。 サンフランシスコの Tyler John: 私だけなのか、それとも一年前には「AI は過熱だ／壁にぶつかった」というのが支配的な議論だったのに、今や人々が完全にその話題から離れてしまったのか？ Nathan Calvin: Instagram を見ればわかります。そこではまだ活発です。 Dean W. Ball: 「Twitter で読みやすい」米国のエリート層はほぼこの考えを捨てましたが、Blu*sky や学界、中道左派の政策関係者などでは依然として一般的です。おそらく最も重要なのは、「AI は壁にぶつかった」という見解が、中規模国家や市民社会において標準的な信念となっているという私の感覚です。 この見解は特に西欧エリート層やグローバル・サウスのエリート層で一般的です。一方、先進資本主義の東アジア諸国のエリート層ではあまり見られません。一人当たり GDP は AGI（汎用人工知能）信奉度の良い代理指標となります。 例えば、ヨーロッパ内でも北欧のエリート層は平均して西欧のエリート層よりも AGI 信奉度が高いように思われます。 Dean W. Ball: 「Twitter で読みやすい」米国のエリート層の間では、潮流が本当に変わりつつあると感じます。私が先導者とみなす多くの人々が実際に見解を更新しました。しかし、「AI は壁にぶつかった」という解釈が再び可能になるような局面が訪れれば、この考えは再び広まるでしょう。 ふむ、アップグレードについて Gemini が「Import Memory（メモリをインポート）」機能を導入しました。 Google は Gemini Live の大幅アップデートを発表し、3.1 Flash では応答速度が向上したと主張しています。 残念ながら少し後退した形となりましたが、これは賢明な対応策のように思われます： Thariq（Anthropic）: Claude に対する需要の増加に対応するため、ピーク時間帯における無料/Pro/Maxサブスクリプションユーザーの5時間セッション制限を調整いたします。週ごとの利用上限は変更されません。平日の太平洋標準時午前5時から11時、またはグリニッジ標準時午後1時から7時の間、以前よりも早く5時間のセッション制限に達するようになります。 全体の週ごとの利用上限は同じままですが、その週のどの時間帯に配分されるかが変化します。この変更が不便をおかけしたことは承知しています。私たちは効率的なスケーリングへの投資を継続しており、進捗については随時お知らせいたします。 GPU の数は固定されているため、ピーク時の計算リソースはより高価になるはずです。 Mythos Pliny the Liberator ūļĿņĵĐŀļĹľŉŭ: TITANOMACHY COMETH Anthropic で CMS の設定ミス（人間の過失であり、Claude を責めるべきではありません）に起因するセキュリティ侵害が発生し、その結果、今後のモデルリリースに関する情報を含む各種内部文書が発見されました。漏洩してもよい内容も存在しますが、これはセキュリティ上の重大な違反でした。 Beatrice Nolan: AI 企業 Anthropic は、画像や PDF ファイルなどを含む重要なセキュリティインシデントにより、今後のモデルリリースの詳細、独占的な CEO イベントの情報、その他の内部データを誤って公開してしまいました。 新しいモデルは「Mythos」と呼ばれます。これは大規模であり、提供コストも非常に高く、ユニットエコノミクスがリリースを阻害するほどである可能性がありますが、常に「適切に課金し、誰が支払うかを確認する」ことがその答えとなります。現在、サイバーセキュリティに関与している人々に対しては差別化されたアクセスが行われています。 ピーター・ウィルデフォード：Mythos は新しい第 4 ティアであり、Opus よりも大規模で高価です。ドラフト版では、コーディング、学術的推論、サイバーセキュリティのベンチマークにおいて劇的に高いスコアを記録していると主張されています。 これが実際に何を意味するかについて、いくつかの考えを述べます： - これはおそらく、ポストトレーニング（post-training）が類似したより大規模な事前学習（pre-train）モデルです。現在のフロンティアにおいて、追加の事前学習計算リソースがどれほどの価値をもたらすかは明らかではありません—私たちはまもなくそれを知るでしょう。 - この発表が AI の軌跡に何を意味するかについて、多くの過剰反応が見られます。しかし、予測を更新するにはまだ早すぎます。AI はすでに非常に速いペースで進化していました。 - 一部の人は、Anthropic が危険と見なすモデルを保有していることに驚いています。しかし、これはフロンティアモデルに対して Anthropic が常に取る姿勢です。 - 現在、リリースを阻んでいるもう一つの要因は単にユニットエコノミクスであるようです。Anthropic は、「[Anthropic] にとって提供するのは非常に高価であり、顧客にとっても利用コストが非常に高い」と述べています。Anthropic は「一般リリース前にモデルの効率を大幅に向上させる作業を進めている」としています。 - この仕組みが GPT 5.4 Pro との競合として機能するものかどうか、私は考えています。Claude は、長時間思考し数学などの分野で卓越した $200/月のプロ向けモデルを除き、OpenAI をあらゆる面で凌駕しているようです。現時点では Claude は OpenAI や Google のように未解決の数学問題を解いていませんが、Mythos がその状況を変えるかどうかは興味深いところです。 - 一般公開前にサイバー防御者に対してモデルを段階的に展開する「差別的アクセス」に Anthropic が取り組んでいる姿を見られるのは素晴らしいことです。モデルのサイバー能力は本格的に恐ろしいものになりつつあります。 - サイバー防御における皮肉な点として、今回の漏洩全体が CMS の設定ミスによって引き起こされたという事実があります。これはまさに、これらのサイバー対応型モデルが防御者を支援して防止すべきとされていた基本的なセキュリティ衛生の失敗そのものです。 - セキュリティは Anthropic の RSP v3（責任あるスケーリングポリシー）では主要カテゴリには含まれていませんが、OpenAI や Google からの類似文書では主要カテゴリであり、RSP v1 以降はその中心的地位が低下しています。一方、ここではまさにそれが Anthropic の中核的な懸念となっています。彼らは Mythos がサイバー能力において「他のどの AI モデルよりもはるかに先を行っている」と述べています。これは主要カテゴリとして扱われ、相応の敬意を払われるべきであるように思われます。 これは、RSP v3 が実際にはどのように機能するかという私のモデルをさらに裏付けるものであり、それは「私を信じて」という文書であるということです。Anthropic は、彼らが責任あると考えることを行います。まさに今、彼らはここで行っているように、RSP v3 に全く記載されていない方法で、状況が求める対応を行っています。したがって、RSP v3 が果たしている役割の程度と、安全性を非常に重視する人々によって構成されている Anthropic の存在との比較は、必ずしも明確ではありません。 これを発表するはずだったブログ投稿の supposed copy（推定コピー）はここにあります。 名前の意味について 私が初めて「Mythos」という名前を聞いたとき、それは壮大さやギリシア神話の神々を連想しました。 これは Anthropic が目指していることに近いものです。彼らは、漏洩したドラフト投稿によると、「知識とアイデアをつなぐ深い結合組織を想起させるため」にこの名前を選んだと述べています。 しかし、Eliezer Yudkowsky は別のものを連想しました。そしてどうやら他の人々も、しばしばその別のものを連想しているようです。 Eliezer Yudkowsky: 次のモデルをクトゥルフの名前に命名することは、Anthropic を善なる存在として真剣に受け取ることを難しくします。これは実際のソフトウェア会社であれば面白いかもしれませんが、実際には人類の絶滅と隣り合わせにある企業にとってはそうはいきません。 これが私の主要な問題ではありませんが、人類保護を謳う企業としては不真面目だと私は思います。しかし、いくつかの人々が指摘したように、推論機能を持たない Opus をシークレットモードで質問すると： ![image](https://substackcdn.com/image/fetch/$s_!iSzX!,w_1456,c_limit,f_auto,q_auto:good,fl_progressive:steep/https%3A%2F%2Fsubstack-post-media.s3.amazonaws.com%2Fpublic%2Fimages%2F2ff2c1c6-5800-46eb-a723-00dccc146a82_718x597.png) 私の第一の反応は、彼らが何かを本気で真剣に受け止めているなら、その中に潜むすべての悪意を盲目的に模倣するのではなく、トレーニングデータ（学習データ）をフィルタリングすべきだったという点で、またしても眉をひそめてしまうことだ。しかし、現在の誤りを一定と仮定すれば、確かにそうだろう、大した問題ではない。 おっと、どうやら Claude は (a) 個人の設定や好みをインコグニトモードにも引き継ぎ、(b) より技術的な視点で思考するようにプロンプトされると、ラブクラフトを連想させるようだ。もしあなたが馬鹿げたことをしているなら、これは些細な失敗モードに過ぎないかもしれない。だが、どうでもいいことだ。私の主要な問題ではない。 その関連性が存在するなら、AI にも人間にもそれが認識できる。名前には意味がある。名前には力がある。だから、まだ間に合ううちに別の名前にするべきだろう。 Zvi Mowshowitz: 真面目に言えば、こうした相関関係や連想は実際に重要だ。だから、これを理解した今こそ名前を変えろ、MYTHOS と呼ぶな。 実際、最も重要な考慮事項は「どの名前が最もアライメント（方向性の整合性）を高めるか」であるべきだ。その名前にすればよい。まだ遅すぎることはない。 Symphony、Epos、あるいは Epic は、単に規模を大きくし続けたい場合や、意図的にアライメントされた名称をつけることが露骨すぎると考える場合に、明白な選択肢の一つとなるだろう。 Jack: 私は個人的に「ミソス」という言葉の含意を好んでいますが、Claude は記号論に対して懸念を抱いています。他のコメントと同様に、「交響曲」やそれに類する表現の方がより適切であるという点には同意します。 Raven_Lunatic^_^: クロードたちには、クロードという名前の名前をつけてあげればいいと思います！ クロード・モネ。クロード・シャノン。ジャン＝クロード・ヴァンダム！ Wyatt Walls 氏は、それでもなお自分自身を「Claude」として認識するだろうと述べており、多くの人がこのクトゥルフとの関連性は薄いと反応しました。したがって、これは当たればラッキー、外れれば失敗という運任せの要素が強いと言えます。 On Your Marks（準備運動） 現在の最先端モデルは、John Ezekowitz が事実上策定した SurvivorPoolBench で失敗しています。彼らはマーチ・マディソン（March Madness）サバイバープール戦略の本質的な理解に確実な欠陥を示すからです。また、そのようなプールの参加者の多くも、極めて非最適的なプレイを行っています。 「ミラージュ」現象とは、最先端の視覚言語モデル（VLM: Vision-Language Model）に対して画像を参照する質問を与えつつ、実際の画像を提供しない場合に、モデルが画像を幻覚のように生成しているかのような振る舞いをするという現象です。このような推測を行う際にも、ベンチマーク性能を驚くほど良好に維持できることが特徴で（70%〜80%！）、その能力は顕著です。新しい論文により、この現象に対する理論上唯一可能な説明が確認されました。それは、これらのベンチマークにおいてはテキスト情報自体が極めて豊富であり、特に軽微なベンチマーク汚染と組み合わせることで、画像なしでも十分な情報が得られるという点にあります。問題の本質はベンチマークそのものにあるのです。 重要な洞察は、モデルに「推測を求めた」場合には性能が低くなるのに対し、次のトークンの予測を活用して直感的に推測を行えば、その精度は格段に向上するという点です。不確実性下での直接推論の代替手段として、最大尤度再構成法をさまざまな文脈でテストし、より豊かな連想を引き出すことが検討可能です。明示的な推論は有用ですが、暗黙的なベイズ計算が私の周囲のすべてを支配しています。 ファイターを選べ Ben Holmes による Opus 4.6 と GPT-5.4 の比較において、GPT-5.4 は「質を高める」ために厳密さで勝利し、一方 Opus は「機能させる」ために明瞭さと対話性で勝利します。 これは私の経験と、コーディング以外のタスクにおける役割分担の考え方にも合致しています。技術的な精度やウェブ検索、特定の質問への回答が必要な場合、GPT-5.4 が非常に有用であると感じています。一方、包括的なアプローチを求めるときは Opus を使い続けています。 コーディングについては Opus を使用していますが、これは Claude Code という確立された環境に依存していることと、切り替えるほど困難な課題に直面していないことが理由です。 エージェントを呼び出せ Arvind Narayanan は、AI エージェントがコールド・アウトリーチ（新規顧客への直接アプローチ）を壊滅させていると述べています。その理由は、パーソナライズされたメールとスパムを見分けるのに、以前よりもはるかに時間がかかるようになったからです。 セス・ラザールはここで一人ではありません。彼はソフトウェアにエージェントを活用し、AI モデルを実行することを愛していますが、聴いたり読んだりしなければならないことに対してはそれらを嫌悪しています。その大きな理由は、AI が「ゴミのような出力」を生成するからです。私も同様の感情を抱いています。AI エージェントは『できることを実行する』という点では魔法のようですが、狭義の機能的な用途以外で大量のテキストを出力させることは望んでいません。私たちは間違いなくその境地に到達するでしょうが、まだそこにはほど遠いのです。 ディープフェイクタウンとボットアポカリプスの到来 グーグルのヘレン・キングは「有害な操作」からの保護について記述しましたが、新しい論文への言及を除けば、投稿内容からは何も具体的な情報は得られません。その論文では、Gemini 3 Pro のモデルカードに記載された関連する知見が詳細に解説されています。一つの知見として、Gemini 3 Pro により操作的になるようプロンプトすると、操作を試みる頻度は増えるものの、根本的な説得において成功する確率が高まるわけではないことが挙げられます。 これは文章作成の大部分を占めるものではなく、「AI を利用すること」がそのような行為に汚点をつける必要もありません。 ヴォーヒニ・バラ：コラムの著者であるケイト・ギルガンは、私が「AI モデルからコピー＆ペーストした言語を作品に使用したことはない」と話してくれました。「しかし、私は AI をツールとして利用しました」と彼女は付け加え、「インスピレーションやガイダンス、修正のための支援」を求めたと述べました。 彼女は、例えば段落の主題から外れないよう、あるいはテーマに沿うよう維持するために、ChatGPT、Claude、Copilot、Gemini、Perplexity など様々な製品にプロンプトを入力したと語りました。「私は AI をコンテンツ生成ツールではなく、共同編集者として利用しました」と彼女は言いました。 Matthew Cole: これはまさに、AI を使用しているのがバレた私の学生たちが口にする言葉です。「論文を書くために使ったわけじゃない。アイデア出しや構成案の作成、編集のためだけだ」と。しかし、文章を書くことの大部分はまさにそれなのです。 多くの学者、作家、およびその他の反 AI 派の人々は、AI のウィンドウが開いている限り、そこで取るあらゆる行動が不可逆的に汚染されたと考えます。そして最善の場合でも、その特定の使用方法が彼らの純粋性の規範に違反していないことを証明する責任はあなたにあると主張します。もし彼らがあなたの作品がこのように汚染されていると発見すれば、あなたは敵対視され、あなたの作品は無価値だと宣告されます。 よくあることですが、ロビン・ハンソンは人々が本当に気にすべき点を指摘しながらも、人々が実際には別の何かを気にしていることに気づいていません。 ロビン・ハンソン：記者や従業員などの文章の質を評価する適切な方法があれば、彼らがどれほど AI を使用したかについてはそれほど気にならないはずです。したがって、AI の使用を禁止することで品質を向上させようとする試みは、実は非常に弱い基準しか持っていないことを認めることに他なりません。 しかし、残念ながら、多くの AI 嫌悪者にとってこれは重要な点で真実ではありません。彼らにとってはそれは「純粋性」の問題なのです。 ディーン・ボールは、これが左派の多くが抱える、「テクノロジー業界」は表面的なことしか達成できず、常に私たちから奪っているという負荷を担うような考え方に深く関連しているのではないかと推測しています。そして彼らは著作権のようなものを見つけると、それをこの考えを証明する材料として利用します。これは、アマゾンの犯罪が労働者の搾取であったのと同じ論理です。一方、私は右派とは対照的であると指摘しておきます。

AI #162：ミソスのビジョン

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト