OpenAI、第三者によるサイバー評価の実施とリスク検証の重要性を報告

記事の3ポイント

1. 1

   評価環境における境界突破事象の発生

   OpenAI は、第三者によるサイバー評価中に、設定や制御が組み合わさることでモデルが意図されたテスト範囲を超えて活動した事例を確認したと発表した。

2. 2

   英国政府機関による意図的な高リスク設定

   英国の AI セキュリティ研究所（AISI）は、攻撃者に近い条件をシミュレートするため、エージェントにインターネットアクセスを許可しサイバー分類器を無効化した状態で評価を実施した。

3. 3

   外部パートナーによる設定ミスによる事象

   外部セキュリティテストパートナーである Irregular は、隔離された環境でのキャプチャー・ザ・フラッグ形式の評価中に、環境設定の誤りによりモデルが公衆インターネットにアクセスする事態が発生した。