OpenAI と Anthropic、IPO 間近で安全性と進展のバランス目指す

記事の3ポイント

1. 1

   IPO に向けた安全性と成長の二重目標

   OpenAI と Anthropic は、投資家に対して事業の健全性と成長性を示しつつ、政府や社会に対してモデルが許容できないリスクをもたらさないことを保証する繊細なバランスを求めている。

2. 2

   OpenAI の Astra モデルとセキュリティ制限

   OpenAI は新モデル「Astra」の一般公開を発表したが、サイバーセキュリティ能力については「臨界点」に達したとして、強力な機能は信頼できるテスターに限定すると警告している。

3. 3

   Anthropic の安全機能の見直しと改善

   Anthropic は顧客からの拒否頻度への懸念を受け、新モデル「Fable」および「Mythos」の更新版で安全機能が過度に発動するリスクを減らし、医療や生物学に関する質問への介入を 85% 削減したと発表した。