OpenAI、次期モデル「Astra」がセキュリティ基準「Critical」を突破

記事の3ポイント

1. 1

   Astra のセキュリティ能力認定

   OpenAI は次期モデル「Astra」が、未知のセキュリティ欠陥を発見し人間の手順なしに悪用できる能力を持つとして、「Critical」カテゴリに分類されたことを発表した。

2. 2

   Preparedness Framework の定義

   同社が2023年に導入した「Preparedness Framework」において、「Critical」とは既存の有害経路を増幅するだけでなく、未曾有の新たな有害経路をもたらす可能性のあるレベルとして定義されている。

3. 3

   利用制限と公開計画

   OpenAI は「Astra」を間もなく提供予定としているが、そのセキュリティ機能へのアクセスは厳格に制限されると表明しており、詳細な安全性テスト結果はリリース時のシステムカードで共有する方針である。