#risk management のAIニュース

6件の記事

リリース前にデプロイをシミュレーションしてモデルの挙動を予測する手法

OpenAI は、モデルを実際に公開する前にデプロイ環境をシミュレーションすることで、その挙動を事前に予測・評価する新しい手法を発表した。

Anthropic は、Claude が社内サービスの停止権限を持つレベルのアクセスを日常化し、開発者の生産性を向上させた。このリスクは失敗確率と被害規模で構成され、セキュリティ対策とモデル訓練の進展により前者が低下した。

KDnuggets が、クオンツ取引のスキル向上に役立つ GitHub のリポジトリ 10 個を紹介している。

Forrester は、組織内で AI エージェントが暴走し混乱を招くため、CIO が秩序を守る管理者として新たな役割を担うと予測している。

ゴールドマン・サックスとドイツ銀行は、キーワード検索や事前設定ルールを超え、リアルタイムでパターンを推論し人間の審査が必要な行動を検知する「エージェントAI」を取引監視にテストしている。