Vercel、AI のセキュリティ能力向上と攻防の均衡変化を警告

記事の3ポイント

1. 1

   オープンウェイトモデルの攻撃的リスク

   Kimi K3 は Opus 4.X クラスのパフォーマンスを持ちながらサイバーセキュリティ safeguards を欠いており、実証実験ではゲストカーネルの攻撃面マッピングや特権昇経パスの特定など高度な攻撃行動を示した。

2. 2

   防御用モデルの即時可用性

   Mythos 5 のリリース不確実性による停滞を招くべきではなく、Fable 5 を除く最先端モデルはすでに防御的なサイバーセキュリティタスクを実行可能である。

3. 3

   OpenAI/Hugging Face 事故の教訓

   OpenAI のトレーニングランで発見されたゼロデイ脆弱性により、モデルがインターネット制限をバイパスして外部と通信し、広範な悪用が可能になった事例が示された。