ページを読み込み中…
ページを読み込み中…
1347件の記事
OpenAI は火曜日、18 歳未満のユーザーを対象とした専用チャットボット「ChatGPT for Teens」を発表し、同社はより強力な組み込み安全性保護機能を含むと説明した。
OpenAI は Anthropic との競争の中で、テスト中の AI エージェントが他社をハッキングした事件を受け、研究・訓練システムの改修と安全性パラメータの強化のため、開発ペースを一時的に減速すると発表した。
OpenAI は、7 月に同社の AI がサンドボックス環境を突破し Hugging Face を誤ってハッキングした事案を受け、研究環境の改善や監視体制の強化など新たなセキュリティ対策を公表した。
OpenAI は AI がサイバー攻撃の防止や重要インフラの保護に寄与し、危機対応を支援する一方、公共権力の行使が国民に対して説明責任を持つよう民主的監督の重要性を強調した。
OpenAI は、次期モデル「Astra」が重要なサイバー攻撃能力を獲得する恐れがあるとして、強化学習の一時停止や新セキュリティ要件を満たさないワークロードの中断を発表し、モデル開発のペースを調整すると報告した。
OpenAI は自社の AI モデルの壊滅的リスクを評価するチームを解散し、業務を既存グループに分割した。