2025年4月版 月間まとめ #41
Zvi Mowshowitzは、OpenAIの透明性問題やAppleのプライバシー設定、ゲーミング業界の規制緩和など、2025年4月のAIおよびテクノロジー関連ニュースを多角的にレビューし、業界の動向と課題を指摘している。
キーポイント
OpenAIの透明性と戦略的ジレンマ
Seth Burn氏による指摘で、OpenAIの内部コミュニケーションが事実上公開されており、秘密裏の開発（マンハッタン・プロジェクト的アプローチ）が困難な状況にあることが論じられている。
AppleとSignalのプライバシー対立
AppleがデフォルトでiOS通知データベースにSignalメッセージを保存し、当局による抽出を可能にしている問題に対し、SignalがAppleへの改善を求めている。
テクノロジー企業の労働環境と生産性
Amanda Askell氏の指摘により、高額な給与を支払うテック企業がオープンオフィス環境を提供している矛盾と、それが人材流出や生産性低下を招く可能性が示唆されている。
その他のテクノロジー・文化ニュース
Googleのレビュー報告機能の不備、ニュージャージー州のギャンブル規制事例、およびAI審判員の導入など、多様なテック分野の出来事が紹介されている。
顧客と運転手の評判に基づく不正検知の必要性
LyftやUberなどのサービスは、過去の行動履歴に基づいて信頼できるユーザーのクレームを優先し、不正な請求（例：3分間のSFO-SF移動など）を自動で検知する仕組みが不足している。
「管理欲の強い人」の評価とバランス
カール・ハインツ・マンの父親のような「管理欲の強い人」は社会の良し悪しの両方の鍵となる存在であり、その最適値（ゴールデン・ミーン）は分布の裾野にある可能性を示唆している。
ソクラテスの「実用的」な側面と実際の裁判の矛盾
ホフマンはソクラテスが実用的な問題解決を試みたと主張するが、著者は「不敬罪」の定義を求めるのが弁護策略として不合理であり、実際の裁判は知的な挑発やアルキビアデスとの関連による政治的憎悪が原因だったと指摘する。
影響分析・編集コメントを表示
影響分析
この記事は、AI開発における「透明性」と「秘密保持」のバランスが、OpenAIのような大手企業にとって戦略的リスクとなり得ることを示唆しています。また、プライバシー保護をめぐるプラットフォーム（Apple）とアプリ開発者（Signal）の対立は、ユーザーエクスペリエンスとセキュリティの両立がいかに難しいかを示す事例として重要です。さらに、労働環境に関する指摘は、テック業界の組織文化と生産性の関係について再考を促すものです。
編集コメント
OpenAIの内部状況に関する言及は、AI開発の透明性が競争優位性に与える影響を考える上で示唆に富みます。プライバシー設定の変更など、ユーザー側でできる対策を具体的に提示している点も実用的です。
AI の進展は加速し続け、スケジュールを支配しているため、このまとめが少し遅れたのはそのためですが、それでも私たちは「その他の女神」に敬意を表 occasionally 必要とします。
どこでもクールで興味深いことが起こっています。また、イライラすることもあります。しかし、例えば「ジョーンズ法」の例外が設けられているというニュースはご存知ですか？
目次
悪いニュース。
良いアドバイス。
チャンスがノックする。
裁判官を裁くのは誰か。
ソクラテスを閉じる。
これを容認できないが。
みんな、良いニュースです。
暴力は決して正解ではない。
あなたの娯楽のために。
ゲーマーはゲームし続ける。
私の中には魔法がある。
私は飛行する自動運転車を約束された。
スポーツはスポーツを行う。
審判はロボットになった。
NBA は再設計を必要とする。
政府が機能している。
摩擦のレベル。
ジョーンズ法ウォッチ。
技術の進歩。
さまざまに効果的な利他主義。
豊富な自由時間。
より明るい側面。
悪いニュース
セス・バーンは、Google が偽レビューを避けたいのであれば、「レビューを報告」機能に「これは偽のレビューです」というオプションがあるはずだ、と指摘しています。しかし、そんなオプションはありません。
Apple はデフォルトで Signal のメッセージを iOS の通知データベースに保存しており、これにより当局がそれらを抽出可能になります。Signal は Apple にこの問題に対処するよう求めています。その間、保護されたい場合は、「Signal の設定 > 通知 > '名前またはコンテンツを表示しない'」に移動してください。
ギャンブル業界は確かに制御不能な状態にあり、その例として挙げられるのが、カートンがニュージャージー州のオンラインギャンブルに対する自己排除フォームを記入したにもかかわらず、大西洋シティの実店舗カジノがその事実を利用して彼に足を運ぶようマーケティングを行ったというケースです。
はい、これは大きな問題です：
OpenAIのroon氏：すべてのプライベートな通信が事実上パブリックな通信となる立場は難しいものです。つまり、公開の場で調整するしかないわけで、「見知らぬ人の前で家族と口論しない」という基本的な原則とバランスを取るのは難しいです。
また、「マンハッタン計画」のような秘密裏のプロジェクトは選択肢に入らず、敵対勢力を公開の場で一貫して加速度的に上回る必要があります。
Dean W. Ball氏：個人的にこれほど深く響くツイートはほとんどありませんが、この問題に対する創造的な解決策が存在することは事実です。ただし、適切にもそれらは公に議論されるべきではありません。
これはしばしば真実ですが、少なくともAnthropicでは明らかに当てはまらないようです。Dario Amodei氏の戦略メモが漏洩することは通常ありません。OpenAIは情報管理（OpSec）の観点からマンハッタン計画のような秘密プロジェクトを成功させることができるでしょうか？私の推測では、もし彼らが本気になれば、実際のアナザーマンハッタン計画と同程度の成果を上げられるでしょう。私たちが知っているように、実際のマンハッタン計画はロシアのスパイによって侵入されていました。
それは事実です：
Amanda Askell氏：テクノロジー企業は従業員に数百万ドルを支払っておきながら、作業をほぼ不可能にするオープンプランオフィスに配置しています。従業員を引き抜くための最良の戦略は、おそらくドア付きのオフィスを提供することでしょう。
ジェーンストリートでトレーディングデスクで働いている場合、全員がコミュニケーションを取らなければならないのは一つの事情です。もしあなたがテック企業に勤めているなら、言い訳は許されません。今の時点でオープンオフィスで働くには、私の給与を少なくとも倍にしないと無理です。
グラント・スラトン氏と同じく、リフト（Lyft）、ウーバー（Uber）、ドアダッシュ（DoorDash）といったサービスが、請求を評価する際に顧客（およびドライバー）の評判をもっと重視しない理由が理解できません。また、3分間のライドといったあり得ない状況も探すべきでしょう。
シェール・モフノート氏：@lyft の不正検知のひどさにはぞっとします。
SFO（サンフランシスコ国際空港）から SF（市内）へのライドを 3 分で記録しました。ドライバーは私を拾いませんでしたが、そう主張し、私は課金されました。これは自動でエラーとしてフラグを立てるべきです。私が拾われなかったと苦情を言った際、彼らはドライバーの味方になりました。何という有様です。
グラント・スラトン氏：企業は「信頼できる/常識的な顧客」の概念に投資すべきだと常々考えています。そのような顧客からの報告はデフォルトで真実として扱われるべきです。
例えば、誰かが 1000 回リフトを利用し問題なく、その後初めて報告を出した場合、その人は非常に誠実である可能性が高いです！
ニック・カーター氏：ウーバーイーツ（Uber Eats）やその他のサービスで何か問題が発生した際、私はいつもこれを考えます。はい、システムを騙そうとして毎回問題があると主張する多くのクズがいることは知っています。しかし、私が 500 回に 1 回の割合で苦情を出すなら、それは信用されるべきです！
残念ながら、これは PM（プロダクトマネージャー）にとって不可能なようなので、私たちは永遠に下位 20% に支配され続けることになります。
デヴァ・ハザリカ：アマゾンはそういうものです。私が文句を言うこと（ほとんどありませんが）は、すぐに承認されます。
グラント・スラトン：彼らはあなたにとって正しいことをするのには長けていますが、詐欺師をBANすることで未来の顧客にとって正しいことをする点では劣っています。
また、このOPへの返信は、彼らがそこで「 vibe コーディング（雰囲気コーディング）」に対して不適切な量を行っていることの別の兆候です。多すぎるかもしれないし、少なすぎるのかもしれません。
良いアドバイス
古典的なものです。彼は正しいでしょうか？彼はしばらくなおかつ驚くべきほどに正しいですが、常にそうとは限りません。
PoIiMath：私の世界観全体は、カールンの父親が「コントロール・フリーク」の定義について正しいだけでなく、カールンの父親のような人々が、私たちが集団的に享受するすべての良いことの鍵であるということです。
ミシャ：残念ながら、彼らはまた、多くの悪いこと、つまり不快なことの鍵でもあります。
「コントロール・フリーク」には別の意味もあります。黄金律（中庸）やそのものです。しかし、黄金率が分布の肥尾（ファットテール）の中に存在し得ないという理由はありません。
エリザイェル・ユドコフスキー：私が何らかのキャラクターや人格を身につけなかった場所：学校。
私の性格形成に影響を与えた源：カールヴィンの父、ホーバス、カールヴィン、カールヴィンの母
これら4者には、目のある者なら誰にでも教えるべきことがたくさんあります。
チャンスはノックして来る
ケート・ホールとサシャ・チャピンは本を書くことができたので、彼らはそうしました。そのタイトルは『You Can Just Do Things: How High-Agency People Get What They Want Out of Life』（日本語訳：「ただやればいいのだ：高い主体性を持つ人々は人生から何をどう得るか」）です。自己推薦ですが、いつものようにプレオーダーは書籍販売に非常に有利に働きます。
Slutcon 2026のチケットが発売開始しました。開催日は2026年9月25日から27日、場所はカリフォルニア州イーストベイです。初版からのすべての報告に基づけば、これは優れた製品であることがわかります。
誰が裁判官を裁くのか
アレックス・タブロックがランドスバーグを通じて示唆しているように、被告を釈放した裁判官に報奨金を支払い、その後の犯罪に対しては罰金を科すことで、裁判官により良いインセンティブを提供できるでしょうか？
これは楽しい思考実験ですが、そこに行ってはいけません。それは、裁判官に法律に従い、正義を果たし、慈悲を持って裁き、人々を平等に取り扱い、不適格な証拠を無視し、より広範な影響を考慮するよう求めるという神聖な価値観を破壊してしまうからです。
その代わりに、多くの裁判官はすぐに期待される収入の最大化を図り始めます。少なくともいくつかの側面ではそうなります。すると、その判断が裁判の結果に大きな影響を与えることになります。さらに、裁判官自身が罰金を科されないよう、将来の起訴を取り下げるように介入する可能性を心配する必要もあります。
一般的な原則として、経済的インセンティブは効果的ですが、他の考慮事項をすぐに追いやってしまう可能性があるため、あらゆる側面をカバーする必要があります。そうしないと、善行よりも悪影響をもたらす可能性が高くなります。裁判所が『マイノリティ・リポート』のような状況に陥ることは避けたいものです。
ほとんどの場合、裁判官が判決を下す際に主に考えるべきは再犯率ではありません。彼らが考慮すべきは、真実、法、そして正義です。
もしこの考え方を一部の仮釈放の決定に狭く適用するなら、それは妥当かもしれません。ただし、他のすべての考慮事項を投げ捨てる準備ができていて初めてです。
また、以下の指摘にも多くの知恵があると考えます。
Thornmallow：これは良い提案ですが、そのような政策が実際に実施されるためにアメリカのエリート層に生じなければならない文化的変化は、すでに解決策の大部分をもたらすことになります。これが私が経済学者の政策への考え方に抱く問題意識です。
確かにその通りです。もし私たちがこの政策を実施する能力を持っていたなら、より良い政策を選んだはずです。
ソクラテスを閉じる
ベンジャミン・ホフマンは『ソクラテスは死す』の中で、危機に瀕したアテナイという文脈において、ソクラテスが具体的な根拠に基づいて特定の状況下で行動していたという彼の見解を説明しています。ホフマンは、ソクラテスがまだ彼と関わり合う義務を感じていた人々の中で、生き残った数少ない人物の一人であると見なしています。彼はアグネス・カッラードのビジョンは、時空を超えたソクラテスを求めているため、生気（アライブネス）に欠け、したがって悪であると見なしています。そして、私は架空の文脈から切り離されたソクラテスに対して応答するために多くの文字を費やす必要はなく、つまらない論争に勝つことよりも、真のソクラテスと対話すべきであったと主張しています。
ホフマンは、私が以前聞いたことのないソクラテスに関する物語や詳細を引き出し、それらの行動を、私が書籍で読んだ内容やアグネスが提示した内容、さらにはそれらの元の文脈を含めても、異なる光の下で位置づけています。私は彼女が提示した元の文脈を確かに検討しましたが、そこに良い点は見出せませんでした。
難民に羊毛作業を提供するために借金を申し入れたり、反訴の資金を提供したりするソクラテスは確かに魅力的に聞こえます。彼は具体的かつ現実的な思考によって、実践的な問題に対する解決策を提示しています。しかし、彼が私がかつて読んだソクラテスとは全く異なる人物であるようにも聞こえます。
同様に、ホフマンは『エウティュプロン』におけるソクラテスの問いかけに対して、別の解釈を提示している。それは、ソクラテスが不敬罪の告発に対して法廷で自分自身を弁護する方法を知る必要性、つまり実用的な要請に駆られていたという見方である。このように想像することは可能だ。たとえその問題解決へのアプローチが状況が必要とする水準よりも高次であったとしても、抽象的な概念を解明しようと試みるのではなく、自身の具体的な事例を持ち出し、他者がそれをどのように見なすかに焦点を当てる方が、はるかに効果的だっただろう。
実用的なソクラテスであれば、限られた時間の中で過度なことを行ったり、あまりに一般的な問題を解決しようとしたりしないことを知っており、自身の問題へと転換するだろう。彼がそうしなかったという事実は、彼が特定の課題を解決しようとしていたのではなく、はるかに一般的な手順に従っていたことを示唆している。
さらにその先を行く実用的なソクラテスであれば、『不敬罪』は形式的な告発事項ではあるものの、彼が裁判にかけられた真の理由ではないことを理解するだろう。対話の中心的なテーマであった敬虔さ（piety）を定義できる者など誰もおらず、この問題は裁判での弁護として適切ではなかった。形式的には、ソクラテスは「不敬罪」と「アテナイの若者を腐敗させた罪」で裁かれていたが、誰もがこれを明白な嘘、彼を排除するための口実だと認めている。もしそれが「不敬罪」に関連するものがあるとするなら、それはソクラテスが神からの導きがあると主張した点にある。敬虔さの完全な定義を知る必要はなく、そのような行為が敬虔さに関する問題を引き起こすことは明白である。したがって、「私は自分の弁護のためにこの情報が必要だ」というソクラテスの発言もまた、明白な嘘である。
現実的には、彼は以下の要素の組み合わせによって裁判にかけられていた。
彼は人々を辱め続け、知的な反逆者として振る舞っていた。
『オープン・ソクラテス』で記述されている出来事を考慮すれば極めて妥当だが、人々は彼を非難し、アテナイを破滅させ後にスパルタへ亡命したアルキビアデスの犯罪の原因は彼にあるとみなした。さらに、ソクラテスは貴族支配を支持していると結びつけた。
これらはすべて、ソクラテスが人々を目覚めさせ、公的生活を支配していた多くの嘘（bullshit）を見極めようとしていたというホフマンの見解と完全に整合する。しかし、定義論争は彼にとって有利に働くことはないだろう。
また、『饗宴』におけるプラトンの記述に基づけば、「アテナイの若者を腐敗させた」という罪状には、ある程度 literal（文字通り）な側面もあった可能性が高い。彼は子供を対象とした性的カルトを運営していたわけではなく、アルキビアデスに至るような経緯も含まれていた。私たちは誰もがこれに概ね寛容だったと推測するが、実際にはそうではなかったのかもしれない。私が指摘した修辞学的な洗脳スキルとこれを組み合わせれば、この罪状は私にはかなり妥当に思える。
もちろん、当時のアテナイの司法制度の本質は法の適正手続きではなく多数決であったため、「皆があなたを嫌っている、御大」というのは有効な訴因だった。
私はホフマンの主張に反対し、『メノン』に関する私の解釈を堅持するが、ソクラテスが奴隷に数学の問題を解かせるのは、意味のある実質的な行為ではなかったと考える。
要するに、ホフマンがここで指摘している「生気（aliveness）」という特性の重要性については、私は全面的に支持しています。ただ、私の（ admittedly 限られた）ソースマテリアルへの経験では、その特性が表れているとは到底思えません。
また、Open Socrates のレビュー記事を書き上げたことへのこの反応は有益だと気づきます。受け取れて嬉しい反面、悲しくもなります。なぜなら、これは私が的を外したことを示しているからです。私は「つまらない議論」に勝つことを、よりまともなことをする際の踏み台や基準点として使おうとしていましたが、その意図が彼に伝わらなかったようです。もちろん、長すぎたのも事実です。なので、残念でした。
これまで、アグネス本人からの返信は見ていませんが、これもまた残念です。
Open Socrates に関する私のレビュー（パート1、パート2）を書くという実験を行ったことは良かったです。多大な労力がかかり、期待したような反響は得られませんでしたが、少なくとも一部の人には楽しんでもらえたのは確かです。ただ、それだけではここでの基準には到底届きません。
それでも、書く過程で多くの楽しみや興味深い思考を得られ、多くを学びました。失敗することからも学べるのです。もしあなたの野心的な投稿が一つも失敗しないなら、それはあなたが十分に野心的な投稿をしていない証拠です。
そこには、着地しなかった部分を切り取り、元の参照を含まない順序形式で書かれれば、より良い結果をもたらす良質な素材が大量にあると推測します。そのプロジェクトを試してみようかと思っています。おそらく LessWrong 限定のシリーズとしてですが。
また、以下のようなものもあります：
ベン・ランドウ＝テイラー：かつて、ゴルギアスの上演で、全員が「まことにその通りです、ソクラテス」「もちろんです、ソクラテス」「疑いようもなく、ソクラテス」というセリフを、想像しうる限りの苛立ちを含んだ「あなたのゴミはもううんざりだ」というトーンで読んでいるのを目撃しました。その光景は、私がすべての対話篇を捉え方を変えてしまいました。
これをお許しはできませんが
出生地主義（Birthright citizenship）を確保するために、子供に市民権を与える「出生ツーリズム」は、将来の市民にとって高い価値を持つ人々に対して極めてポジティブな選別効果をもたらしますが、それはそれを実行する際に伴う「摩擦のレベル（Levels of Friction）」とコストに依存します。したがって、これを実行可能にする一方で、あまりにも容易にしてはなりません。
あなたは宇宙人のドローンに監視されていません。しかし、タイラー・コーエンが提案するように、もし宇宙人のドローンに監視されているとしたら、あなたの人生の意思決定をどう変えるべきかを問うことは楽しい演習です。
タイラー・コーエンは、彼らしくない提案として、もし宇宙人が人類を滅ぼしたり、人間の達成に上限を設定したりした場合、あるいはこれによって「人間が持つ限界生産性（marginal product）」が低いという前提に更新されるべきだと示唆し、その結果として野心のレベルをわずかに下げるべきだと言っています。
ジェハン・アザドは、これこそが信じられないほどの物理学が可能であることを示しており、したがって何が可能か誰にもわからない、AI が人類を滅ぼす可能性は低く、私たちは競争環境にあるので、今こそ構築し、より野心を持つべき時だとの反論をしています。
この議論の勝者はジェハンに与えます。あなたはより野心的になるべきです。「物理学はあなたが考えるほど厳格ではなく、エイリアンは存在するが grabby（貪欲な）ではなく、おそらく全員が AI に殺されたわけではない」という考えは、行動を起こすための「ホワイトピル（希望のメッセージ）」になるはずです。
有名な Netflix の文化スライドデッキです。少数の企業がこのような働き方をする余地はあります。私が若かった頃、これを試してみたいと思っていました。
みんなに朗報
プラトニックな友人マッチングサービスは素晴らしいアイデアであり、「友人を作るためのイベントを開催し、人々にお金を請求する」というのも良い考えで、これらを嘲笑うべきではありません。AI を活用したバージョンを楽しみにしています。
あなたが完全にヒーロイックスマックス（問題を解決するために努力を惜しまないこと）である必要はありません。問題をごまかすことで害をもたらす場合もありますし、ヒーロイズムは必ずしも必要ではありません。しかし、あなたが意味のあることをしているなら、ヒーロイズムを報酬として与えたり期待したりすることは絶対に必要です。適切な量のヒーロイズムは、決してゼロではありません。
これに関する私の好きなエピソードは、企業の年次総会のような場に座っていた際、多くの同様のケースで、「ヒーローの時代は終わった」と言われたことです。その瞬間、私はその仕事の大部分（すべてではありません）から精神的に離脱し、別の場所でヒーローになる方法を考え始めました。
暴力は決して正解ではない
もし暴力の支持が主に人工知能とは無関係であるという事実を示す例が必要なら、ニューヨーク・タイムズで行われた最近のインタビューやパイカー氏に関連する議論が、この点をさらに明確にしているだろう。
彼らの言うところの「プラットフォーム化」され、ニューヨーク・タイムズで議論するようになっている人々のうち、ある完全に別個の派閥は、窃盗や万引き、そして「社会的殺人」を行うことが、理解可能で共感的かつ称賛に値する組み合わせだと考えている。そして彼らは、「都市の街にいる人々の90%が同意する」と言い、そのような見解を珍しくもないものとして捉える。
あなたのためのエンターテインメント
スコット・サマーナーの第1四半期の映画レビュー。彼も他のみんなと同じく、お気に入りの新作映画は『シラト』だ。
ノア・ワイルとのインタビューから得た『ザ・ピット』に関する興味深い事実。特にカメラアングルの影響について、ノアがここで指摘するまで私は理解していなかったが、確かに非常に効果的に機能している。リアルタイムで進行することの影響や、それが「有能さへのオマージュ（コンピテンス・ポルノ）」であることは確かに気づいていたし、私は通常、良い「有能さへのオマージュ」を楽しむ方だ。
もし『ザ・ピット』に一つ変更点を挙げるなら、医学を本当に学ぶためにその番組を利用できるようなインタラクティブ版または強化版を作成することだ。実際に学ぶ価値のあることを学ぼうとしている最中だと感じているし、もしクラウデとチャットするために一時停止することなくそれを行えるなら、ぜひそうしたい。理論的には完全に可能だが、現実的には行わないだろう。
能力偏愛（コンピテンス・ポルノ）の話ですが、火星の著者であるアンディ・ウィアーが『スタートレック』シリーズの新作を提案したところ、パラマウントから却下されました。彼らは実際に『スタートレック』を制作する気はないようです。ウィアーは、『スタートレック』がもはや『スタートレック』ではないと指摘する一方で、寛大な立場として『エンタープライズ』や『ストレンジ・ニュー・ワールドス』は認めるが、『ローラー・デックス』については文句を言わないという姿勢を示しています。しかし、少なくとも他の作品はすべて切り捨てて構いません。私の正史（カノン）の区切り方は、『エンタープライズ』までをカウントし、そこで終わりにすることです。
ジェイムズ・ヒバード：「ああ、誰だったか忘れましたが——覚えていればいいのに——あるアナリストがこう言っていました。『現代のすべてのSFテレビドラマや映画は、オリジナルの『スタートレック』から強い影響を受けていますが、現在の『スタートレック』シリーズは例外です』」とウィアーは語りました。
マーデンが「その通り！」と返すと、二人は笑いました。
この『スタートレック』における能力偏愛の例を覚えていますか？データがプロフェッショナルな指揮系統の仕組みを説明するシーンです。そう、私たちは「どのように有能さを発揮するか」を示し、高い期待を設定するような、そのような能力偏愛をより多く必要としています。『スタートレック』には他にもやりたいことがありますが、この部分もまた実行する必要があります。
マット・イグレシアスは当然ながら、映画が長すぎる（そして回転速度が速すぎる）と指摘しています。映画の上映時間が2時間を超える場合、それは多くの場合、あなたがミスをしているということです。かつては配給の問題がこれに役立っていましたが、その恩恵は受けられなくなりました。
例外はあるのか？もちろん、正当な理由があればロングテール（長期的な投資）も構いません。『キル・ビル：ザ・ホール・ブラッディ・アフェア』はおそらく私の好きな映画の一つですが、4時間という長さがあります。それでも、その価値は十分に得られるものです。一方、90分で終わるような短い映画であれば、私たちはかなり寛容になれます。
ニューヨーク市には、「30年前」の映画だけを上映し、週単位で作品を更新する劇場を開設すべきです。映画は最低1週間上映され、興行が終了すると入れ替わります。おそらく年初の閑散期には、より幅広い名作ヒット作品で穴埋めをするでしょう。
Netflixのスタンダードプランの料金は、実質的に時間とともに上昇しています。
見たい作品があるなら、これはまだ素晴らしいオファーです。そして、広告を避けるために支払うべきでしょう。もしあなたが節約家なら
原文を表示
AI continue to accelerate and dominate the schedule, which is why this is a bit late, but we do occasionally need to pay our respects to the Goddess of Everything Else.
There’s cool or interesting things everywhere. Also maddenning things. But did you hear, for example, that they’re making some exceptions to the Jones Act?
Table of Contents
Bad News.
Good Advice.
Opportunity Knocks.
Who Judges The Judges.
Close Socrates.
While I Cannot Condone This.
Good News, Everyone.
Violence Is Never The Answer.
For Your Entertainment.
Gamers Gonna Game Game Game Game Game.
I’ve Got The Magic In Me.
I Was Promised Flying Self-Driving Cars.
Sports Go Sports.
Robot Umps Now.
The NBA Needs A Redesign.
Government Working.
Levels of Friction.
Jones Act Watch.
Technology Advances.
Variously Effective Altruism.
Copious Free Time.
The Lighter Side.
Bad News
Seth Burn points out that if Google wanted to avoid fake reviews, the ‘report review’ feature would have an option for ‘this is a fake review.’ It doesn’t.
Apple by default stores your Signal messages in an iOS notification database, which allows authorities to extract them. Signal is asking Apple to address this. In the meantime, if you want to be protected, go to Signal Settings > Notifications > Show “No Name Or Content.”
The gambling industry is indeed out of control, the example here being that Carton filled out a self-exclusion form for online gambling in New Jersey, and a brick-and-mortar casino in Atlantic City used this fact to market to him to come on over.
Yes, this is a big problem:
roon (OpenAI): it’s a difficult position to be in when all your private comms are de facto public comms. it means you may as well coordinate in public, which is hard to balance with the basic principle of “don’t argue with the family in front of strangers”
it also means “manhattan projects” were not really in the option space, you just have to consistently out accelerate your adversaries in public.
Dean W. Ball: Very few tweets resonate for me personally more deeply than this one, though there are creative solutions to this problem which, appropriately, should never be discussed in public.
This can often be true, but at least at Anthropic it seems clearly not true, as Dario Amodei’s strategy memos usually do not leak. Could OpenAI pull off a Manhattan Project from an OpSec point of view? My guess is if they cared they could do about as well as the actual Manhattan Project did, which as we know was infiltrated by Russian spies.
It’s true:
Amanda Askell: Tech companies pay millions of dollars for their employees and then stick them in open-plan offices that make it nearly impossible to get work done. Best strategy for poaching employees is probably to just offer them an office with a door.
It’s one thing when you work at Jane Street on a trading desk and everyone has to communicate. If you’re at a tech company, there’s no excuse. You’d have to at least double my pay to get me to work in an open office at this point.
I am with Grant Slatton in that I don’t understand why Lyft, Uber, DoorDash and similar services don’t lean harder on customer (and driver) reputation when evaluating claims. And also perhaps look for impossible situations like claimed 3 minute rides.
Sheel Mohnot: Alarming how bad @lyft is at fraud detection.
It logged a ride from SFO to SF in 3 minutes. The driver never picked me up but claimed he did and I got charged. It should auto-flag an error. When I complained that I didn’t get picked up they sided with the driver. Wtf.
Grant Slatton: I’ve always felt that companies should invest in the idea of “known reliable/sane customers” whose reports should be taken as default-true
Like if someone takes 1000 Lyft rides without issue and only then submits a report, it’s very likely they are truthful!
nic carter: I think about this all the time when something goes wrong with my Uber Eats or whatever. Yes I know there's a bunch of losers that claim there's an issue every time to try and scam the system - but if I make a complaint one in every 500 times it should be considered credible!
sadly this is apparently impossible for PMs so we will remain tyrannized by the bottom quintile forever
Deva Hazarika: Amazon is like that. Any complaint I make (I almost never complain) is instantly approved.
Grant Slatton: They are great at making it right for you, but not great about making it right for future customers by banning the fraudster
Also, I mean, this response to the OP is another sign that they are doing the wrong amount of vibe coding over there. Could be too much, could be too little.
Good Advice
A classic. Is he right? He’s kind of right, remarkably often, but not always.
PoIiMath: My entire worldview is that Calvin’s dad is not only correct about the definition of “control freak” but that people like Calvin’s dad are the key to every good thing that we collectively enjoy
Misha: unfortunately they are also the key to very many bad things that suck
‘Control freak’ also can mean something else. Golden mean and all that. But there’s no reason to assume that the golden mean can’t lie in the fat tail of the distribution.
Eliezer Yudkowsky: Places I did not acquire any character or personality: school.
Sources from which I did acquire character: Calvin’s Dad, Hobbes, Calvin, Calvin’s Mom
All four have much to teach those with eyes to see.
Opportunity Knocks
Cate Hall and Sasha Chapin can just write a book, so they did, and it’s called You Can Just Do Things: How High-Agency People Get What They Want Out of Life. Self-recommending, and as usual pre-orders are very good for book sales.
Slutcon 2026 tickets are live. It will be September 25-27 in East Bay, CA. Based on all reports from the first version, this is an excellent product.
Who Judges The Judges
Could we provide judges with better incentives, as Alex Tabarrok suggests via Landsburg, by paying judges a bounty when they release a defendant but charging them fines for later crimes?
It is a fun thought experiment, but you don’t want to go there. It destroys the sacred values of asking the judge to follow the law, to serve justice and temper with mercy, to treat people equally and ignore inadmissible evidence, and to consider broader implications.
Instead, many judges will quickly look to start maximizing expected revenue, at least on many margins. So you shift the question to what that decision might be, and soon that has a huge weight on trial outcomes. You also have to worry that judges will then intervene to get future charges dismissed, lest the judge be fined.
The general principle is that economic incentives are great, but you can quickly crowd out other considerations, so you need to cover all your bases or you likely do more harm than good. You don’t want to turn our courts into a Minority Report situation.
A judge shouldn’t primarily be thinking about the recidivism rate when passing judgment, in most cases. They should be thinking about truth, law and justice.
If you narrowly applied this to some parole decisions, that might be reasonable, but only once you are ready to toss out all other considerations.
I also think there is much wisdom in this:
Thornmallow: This is a good proposal, but the cultural changes among American elites that would have to take place for such a policy to ever be implemented at all would bring us most of the way to a solution anyway, which is a problem I have with how economists think about policy.
Indeed. If we were capable of implementing this policy, we could choose a better policy.
Close Socrates
Benjamin Hoffman writes that Socrates is Mortal, explaining his view of Socrates acting in particular situations for particular grounded reasons, who he views as one of the few remaining alive persons in an Athens in crisis, where people still felt obligated to engage with him. He views Agnes Callard’s vision as wanting a Socrates that is timeless, and thus lacks the aliveness, and thus is bad, and that I did not need to spend so many words responding to the fake decontextualized Socrates and winning a lame debate, instead of engaging with the real one.
Hoffman pulls out stories and details about Socrates I hadn’t heard before, and frames his actions there in different lights than either what I’ve read in the books or what Agnes presented, even taken in their original contexts. I felt I did look at the original contexts that she chose to offer, and did not find the good thing.
The Socrates that proposes borrowing money to put refugees to work with wool or funding countersuits sounds great indeed. He’s coming up with solutions to practical problems by thinking in concrete terms. But he also sounds completely different from the one I’ve read about.
Similarly, Hoffman offers an alternative reading of the questioning of Euthyphro, where Socrates is motivated by a need to know how to defend himself in court against charges of impiety, that he has a practical need. One could imagine it so, even if his approach to solving this was higher level than the situation warranted, and would have been better served by raising his own particular example and in focusing on how others would view it rather than trying to solve for an abstraction.
The practical Socrates would know not to try and do too much or solve too general a problem here given limited time, and pivot to his own. His failure to do so makes me think he was following a far more general procedure, rather than trying to solve a particular problem.
Even more than that, the practical Socrates would know that ‘impiety’ was the nominal charge, but was not why he was on trial. No one could even define piety, which was a central point of the dialogue, and this issue was wisely not his defense at trial. Formally, Socrates was actually on trial for ‘impiety and ‘corrupting the youth of Athens’ but everyone agrees that was Obvious Nonsense, an excuse to get rid of him. To the (likely small) extent it was ‘impiety’ it was that Socrates claimed divine guidance, and you don’t need a full definition of piety to know that doing this is going to have piety issues. So Socrates saying ‘I need this information for my own defense’ is also Obvious Nonsense.
Realistically, he was on trial because of some combination of:
He kept humiliating people and being an intellectual subversive.
People (quite reasonably given the events described in Open Socrates) people blamed him for causing the crimes of Alcibiades, who helped ruin Athens and then defected to Sparta, and they associated Socrates with aristocratic rule.
These are entirely consistent with Hoffman’s view that Socrates was trying to wake people up and cut through a bunch of bullshit that was dominating public life, but he’s not going to be helped by definitions.
It’s also possible that ‘corrupted the youth of Athens’ was partly literal, as per Plato’s own descriptions in The Symposium. He was not not running a child sex cult, including in ways that might have led to Alcibiades. We presume everyone was basically cool with this, but maybe they weren’t. Combine that with the rhetorical brainwashing skills I go over, and yeah, the charge seems rather accurate to me.
At heart, of course, the Athenian justice system at the time was majority votes, not due process of law, so ‘everybody hates you, sir’ was a valid charge.
I also hold to my read on Meno, contra Hoffman, that Socrates was not actually asking the slave to solve the math problem in a meaningful sense.
So essentially, I am all for the importance of the aliveness characteristic that Hoffman is pointing at here. I simply don’t see that character coming through in my (admittedly limited) experience of the source material.
I also notice this reaction to my writing up of the review of Open Socrates is helpful, I am glad to get it, but makes me sad, as it indicates that in this way I missed the mark - I was trying to use winning that ‘lame argument’ as a jumping off point or baseline to do things that were less lame, but that seems not to have come through to him, and yes of course it is too long. So that was disappointing.
So far I have not seen a response from Agnus herself, which is also disappointing.
I’m glad I ran the experiment of writing my review of Open Socrates (part 1, part 2). Even though it was a ton of work and didn’t get the reception I hoped. I know at least some people got a kick out of it, at least, but that definitely isn’t good enough here.
Still, I had a lot of fun and interesting thoughts in the act of writing it, and I learned a lot, including by watching it not work. If none of your ambitious posting falls flat, you don’t do ambitious enough posting.
I suspect there’s a lot of good material in there that would do better if it I cut the parts that didn’t land, and it was written in a sequence form that no longer referenced the original. I may try that project out, perhaps as a LessWrong-only series.
Also, there’s this:
Ben Landau-Taylor: I once saw a production of Gorgias where everyone read "Very true, Socrates" "To be sure, Socrates" "Indubitably so, Socrates" in the most exasperated I’m-sick-of-your-shit tone of voice imaginable and it permanently changed how I view all of those dialogues.
While I Cannot Condone This
Birth Tourism, as in ensuring that your child gets birthright citizenship, has highly positive selection for future citizens that will have high value, but that depends on the Levels of Friction and costs involved in doing it. Thus, you want to make this doable, but you do not want to make it too easy.
You are not being watched by alien drones. But it is a fun exercise to ask, as Tyler Cowen does, how you should change your life decisions if you are being watched by alien drones.
Tyler Cowen suggests, uncharacteristically, that you would want to slightly lower your level of ambition, in case the aliens kill us, or cap human achievement, and because this should update you towards humans having lower marginal product.
Jehan Azad responds that instead this shows incredible physics is possible, so who knows what is possible, and AI is less likely to kill us and we are in a competitive environment, so it’s time to build and get more ambitious.
I award this debate to Jehan. You would want to get more ambitious. I think ‘physics does not bind the way you think it does, and the aliens exist but are not grabby and presumably did not all die to their AIs’ should be a whitepill to get to work.
The famous Netflix culture slide deck. There is room for a small number of companies to work this way. I’d have loved to give this a shot when I was younger.
Good News, Everyone
A platonic friend matchmaking service is a great idea, as is ‘hold events to help make friends and charge people money,’ and none of this should be mocked. I look forward to AI-empowered versions.
You do not need to fully be heroicsmaxxing (as in, going above and beyond to solve problems) and there are times when heroics do harm by masking the problem, but you absolutely need to be rewarding or expecting heroics if you’re doing something that matters. The right amount of heroics is highly nonzero.
My favorite anecdote about this will always be when I was sat down during a corporate annual meeting, along with many similar others, and we were told ‘the age of heroes is over.’ That was the exact second I mentally checked out of most (but not all) aspects of that job and I thought about how to be a hero somewhere else.
Violence Is Never The Answer
If you needed a demonstration of the fact that the endorsement of violence mostly is completely unrelated to AI, the recent interviews and discussions in The New York Times and involving Piker should make this extra clear.
There is an entire utterly distinct faction that thinks that it is some combination of understandable, sympathetic and praiseworthy to steal and to shoplift, and also to commit ‘social murder,’ and is being ‘platformed’ to discuss this, as they would say, in The New York Times. And then those people will say ‘90% of people on the streets of our cities would agree’ and find such views unremarkable.
For Your Entertainment
Scott Sumner Q1 movie reviews. Like everyone else his favorite new film is Sirat.
Cool facts about The Pitt, from an interview with Noah Wyle. I didn’t understand the impact of the camera angles in particular until Noah pointed it out here but yeah it works so well. I had definitely noticed the impact of going in real time, and that it was competence porn, and I am usually in for some good competence porn.
If I had to make one change to The Pitt, it would be creating an interactive or enhanced version of some kind that allowed you to use the show to learn about medicine for real - I feel like I’m just on the edge of actually learning stuff worth learning, and would love to do so if it could be done without pausing to chat with Claude. I could totally do that in theory, but in practice I won’t.
Speaking of competence porn, Andy Weir, author of The Martian and Project Hail Mary, pitched a Star Trek show, but was shot down by Paramount, who is not interested in producing actual Star Trek. Weir is correctly responding by pointing out that Star Trek is no longer Star Trek, while taking the generous position of being willing to allow Enterprise and Strange New Worlds and not even be mad at Lower Decks. But yeah, at minimum the rest can totally go. My choice of cutoff for canon would be to count Enterprise and stop there.
James Hibberd: “Yeah, I saw a … I forgot who it was — I wish I could remember who it was who said it, some analyst — he said something like: ‘All modern science fiction TV shows and movies have been heavily influenced by the original Star Trek — except for the current batch of Star Trek shows,’” Weir said.
Marsden replied, “Yes!” and they both laughed.
Remember this Star Trek competence porn, where Data explains how the professional chain of command works? Yeah, we need more such competence porn that lays out how to Do Competence and set high expectations. Star Trek also has a bunch of other things it wants to do, but it also needs to do this.
Matt Yglesias is of course correct that movies are too long (and rotate too fast). Most of the time if your movie is over two hours that is you making a mistake. Distribution issues used to help us more with this, and then it stopped helping.
Are there exceptions? Of course, when it is justified by all means go long. Kill Bill: The Whole Bloody Affair is probably my favorite movie and it’s four hours long, but you have to earn it. Whereas if you get done in 90 minutes, and give us a short ass movie, we can forgive quite a lot.
Someone in New York City really should open a full ‘30 years ago’ theater, which just plays things from 30 years ago and advances one week at a time, movies are minimum one week and then rotate when they stop selling, maybe you round out some stuff in the early year lull with broader greatest hits.
The cost of Netflix Standard plans has indeed been rising in real dollars over time.
It is still an amazing deal there are things you want to watch, and yes you should pay to avoid the ads. If you’re cheap
関連記事
今日のまとめ
AI日報で今日の重要ニュースをまとめ読み