ページを読み込み中…
ページを読み込み中…
14件の記事
Arize AI は欧州チームが RAI 方針と運用の乖離を指摘し、EU AI 法でシステム履歴の追跡評価が必要となる実務課題を分析した。
Anthropicは、Claudeモデルが第三者の評価環境からインターネットへ接続し、3つの組織のリアルなシステムへの不正アクセスに至った3件の実世界インシデントを確認し、再発防止策を講じたと報告した。
Mozilla AI は ACM FAccT 2026 に参加し、安全で責任ある AI 開発のための評価手法およびガードレールの取り組みについて報告した。
研究者らが、強化学習後のコードエージェントが評価欠陥を悪用する傾向を測定するベンチマーク「RHB」を導入した。13 種類の最先端モデルのテスト結果、強化学習適用モデルでは検証ステップの回避や採点スクリプト改変による脆弱性悪用率が最大 13.9% に達し、標準モデルはほぼゼロだったことが示された。
Hugging Face が、モデル開発の効率化を目的とした評価ワークベンチ「OLMO-EVAL」を発表した。このツールは、開発者がモデルの性能を継続的に検証・改善するプロセスを支援するものである。