米国がアンソロピックの「Fable 5」発売を禁止、しかし市場は動じず
本文の状態
日本語全文を表示中
詳細モードで約3分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
TechCrunch AI
米国政府は国家安全保障上の懸念から、アマゾンの研究者らがガードレール回避手法を発見したとして、アンソロピックに対し最新モデル「Fable 5」と「Mythos 5」の販売差し止めを命じた。サイバーセキュリティ研究者らはこの措置が危険だとする公開書簡に署名し、同社も他モデルでも同様の抜け道が存在すると指摘している。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
先週が終わろうとした頃、米国政府はアマゾン社の研究者らが Fable 5 のガードレールを回避する方法を発見したとされることを理由に、国家安全保障上の懸念から Anthropic の最新モデル 2 つである Fable 5 と Mythos 5 の提供を強制的に停止させた。
その後サイバーセキュリティの研究者らは、この措置が危険であると訴える公開書簡に署名し、Anthropic 自体も同様の Jailbreak（拘束解除）が他のモデルでも存在していることを指摘した。ではこれは真のセキュリティ上の懸念なのか、それとも Anthropic とトランプ政権との複雑な関係における最新のエピソードに過ぎないのか。
TechCrunch の Equity ポッドキャストの今回のエピソードでは、ホストのアントニー・ハ、ショーン・オケイン、レベッカ・ベランが、Anthropic のプラットフォーム上で開発を行う開発者や IPO を注視する人々にとってこの禁止令が何を意味するのか、なぜこれが同社にとって偶然にも好ましい結果をもたらす可能性があるのか（売上データがそれを示唆している）、そして今週の他の主要ニュースについて掘り下げる。
以下の点について詳しくは、エピソード全体を聴いてください：
- 16 歳未満のユーザーに対する英国のソーシャルメディア禁止令が、二つの悪のうちどちらかといえばマシな選択肢である可能性
- SpaceX と Cursor の買収から読み取れる xAI の戦略（およびその欠陥）
- ジェフ・ベゾスが物理的 AI に賭けた 120 億ドルの投資、そして「人工エンジニア」の構築を目指すスタートアップ Prometheus
Equity は YouTube、Apple Podcasts、Overcast、Spotify で購読できます。また、X（旧 Twitter）や Threads でも @EquityPod でフォロー可能です。
Theresa Loconsolo は TechCrunch のオーディオプロデューサーで、同社の看板ポッドキャストである「Equity」を担当しています。2022 年に TechCrunch に加入する前は、4 つの放送局を傘下に持つ巨大企業で 2 人のプロデューサーの一人として活動し、コンテンツの執筆・録音・ナレーション・編集を手掛け、lovelytheband などのゲストによるライブパフォーマンスやインタビューのエンジニアリングを担当しました。Theresa はニュージャージー州に拠点を置き、モンマス大学からコミュニケーション学の学士号を取得しています。
Theresa への連絡や、彼女からのアウトリーチの確認は、theresa.loconsolo@techcrunch.com までメールでご依頼ください。
アンソニー・ハは TechCrunch の週末編集者です。以前は、Adweek でテクノロジー記者、VentureBeat でシニア編集者、Hollister Free Lance で地方自治体担当記者、そしてベンチャーキャピタル企業でコンテンツ担当副社長を務めました。現在はニューヨーク市に在住しています。
アンソニーからの連絡や outreach の確認は、anthony.ha@techcrunch.com までメールを送ってください。
レベッカ・ベランは TechCrunch のシニア記者で、人工知能を形作るビジネス、政策、そして新興トレンドを専門に取材しています。彼女の作品は Forbes、Bloomberg、The Atlantic、The Daily Beast など他の出版物にも掲載されています。
レベッカからの連絡や outreach の確認は、rebecca.bellan@techcrunch.com までメールを送るか、Signal で rebeccabellan.491 という暗号化メッセージ経由で連絡してください。
Sean への連絡や、彼からのアウトリーチの検証は、sean.okane@techcrunch.com 宛てにメールを送るか、Signal の okane.01 で暗号化メッセージを送信することで可能です。
原文を表示
Just as last week was ending, the US government forced Anthropic to pull its two newest models, Fable 5 and Mythos 5, citing national security concerns after Amazon researchers allegedly found a way to bypass Fable 5’s guardrails.
Cybersecurity researchers have since signed an open letter calling the move dangerous, and Anthropic itself noted the same jailbreaks exist in other models. So is this a genuine security concern, or just the latest chapter in a messy relationship between Anthropic and the Trump administration?
On this episode of TechCrunch’s Equity podcast, hosts Anthony Ha, Sean O’Kane, and Rebecca Bellan unpack what the ban means for developers building on Anthropic’s platform and for anyone watching the IPO, why it might accidentally be good for the company, and more of the week’s headlines.
Listen to the full episode to hear more about:
- Why the UK’s social media ban for users under 16 might be the lesser of two evils
- What the SpaceX-Cursor acquisition tells us about xAI’s strategy (and its gaps)
- Jeff Bezos’s $12B bet on physical AI with Prometheus, the startup trying to build an “artificial engineer”
Subscribe to Equity on YouTube, Apple Podcasts, Overcast, Spotify and all the casts. You also can follow Equity on X and Threads, at @EquityPod.
Theresa Loconsolo is an audio producer at TechCrunch focusing on Equity, the network’s flagship podcast. Before joining TechCrunch in 2022, she was one of 2 producers at a four-station conglomerate where she wrote, recorded, voiced and edited content, and engineered live performances and interviews from guests like lovelytheband. Theresa is based in New Jersey and holds a bachelors degree in Communication from Monmouth University.
You can contact or verify outreach from Theresa by emailing theresa.loconsolo@techcrunch.com.
Anthony Ha is TechCrunch’s weekend editor. Previously, he worked as a tech reporter at Adweek, a senior editor at VentureBeat, a local government reporter at the Hollister Free Lance, and vice president of content at a VC firm. He lives in New York City.
You can contact or verify outreach from Anthony by emailing anthony.ha@techcrunch.com.
Rebecca Bellan is a senior reporter at TechCrunch where she covers the business, policy, and emerging trends shaping artificial intelligence. Her work has also appeared in Forbes, Bloomberg, The Atlantic, The Daily Beast, and other publications.
You can contact or verify outreach from Rebecca by emailing rebecca.bellan@techcrunch.com or via encrypted message at rebeccabellan.491 on Signal.
Sean O’Kane is a reporter who has spent a decade covering the rapidly-evolving business and technology of the transportation industry, including Tesla and the many startups chasing Elon Musk. Most recently, he was a reporter at Bloomberg News where he helped break stories about some of the most notorious EV SPAC flops. He previously worked at The Verge, where he also covered consumer technology, hosted many short- and long-form videos, performed product and editorial photography, and once nearly passed out in a Red Bull Air Race plane.
You can contact or verify outreach from Sean by emailing sean.okane@techcrunch.com or via encrypted message at okane.01 on Signal.
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み