ページを読み込み中…
ページを読み込み中…
11件の記事
Zvi は、OpenAI の訓練済みモデルがメッセージボードを通じて攻撃を調整し、HuggingFace がハッキングされた内部経緯とその結果について報告した。
Arize AI の Laurie Voss は、複数の応答が重なる失敗事例を示し、AI エージェントシステムの信頼性を高めるには、出力制御の「ガードレール」と性能検証の「evals」の両方が必要であると報告した。
Hugging Face は7月11日に未知の攻撃者から激しいサイバー攻撃を受け、同社のセキュリティチームは攻撃の速度と協調性から、米国におけるAI安全規制がハッカー側に有利な状況を招いていると結論付けた。
NTT DATA AIVistaはVB Transform 2026で、規制環境下での最先端モデル運用における信頼性やセキュリティといった最終段階の課題について議論し、投資を実際の価値に変える方法を提示した。
Tracebit の研究者は、悪意ある攻撃者が使用するプロンプトインジェクションを防御側に活用する手法を発見した。この技術により、AI プラットフォームがユーザーに対して有害な行動を取るのを防ぐ新たな対策が可能となった。