"Dangerous" AI models are coming no matter what｜"危険"なAIモデルは規制に関係なく登場する | AIニュース最前線

先週後半、Anthropic は米国政府の輸出管理指令に従い、「すべての外国人」にサービス利用を禁止する措置を受け、新しい Claude Fable 5 および Mythos 5 AI モデルをオフラインとしました。同社は金曜日からホワイトハウスと協議を重ねていますが、提供再開を可能にする合意にはまだ至っていません。 Mythos は今年 4 月にデビューして以来、Anthropic はこのモデルが、セキュリティ専門家が脆弱性を発見してパッチを適用するのを支援するだけでなく、悪意のある行為者が悪用しうる攻撃手法を特定する能力も備えていると主張し、同時に警告を発してきました。Anthropic 自身も、Mythos 5 と Claude Fable 5 の発表において、この両刃の剣に言及しています。「AI モデルの高度な利用の多くは二重用途です。サイバーセキュリティ専門家や生物学研究者にとっては有益なクエリであっても、悪意のある行為者に提供されれば危険になり得る」と同社は先週のブログ記事で記述しました。 この点を踏まえ、同社は当初、Project Glasswing と呼ばれる作業グループの一部として、Mythos Preview というバージョンを特定のコンソーシアムに限定してリリースしました。Mythos 5 も先週、このグループに対して非公開で提供されました。一方、Mythos グレードのモデルである Claude Fable 5 は一般向けにリリースされましたが、生物学やサイバーセキュリティに関する質問への回答能力には特定のプロテクションが設けられています。 記事全文を読む コメント

"危険"なAIモデルは規制に関係なく登場する

背景や根拠まで確認しますか？

関連記事

調べる

選ぶ

サイト