#bias mitigation のAIニュース

3件の記事

メモリツールが AI モデルの性能を低下させる理由

TechCrunch AI は、AI モデルに実装されたメモリツールの使用が、かえってモデルの精度や信頼性を低下させる可能性について分析している。

生成モデルが視覚障害者支援などで意思決定を行う際、入力画像の人種や性別などの属性に依存したバイアスが結果に影響を与える問題がある。この研究では、性能低下を最小限に抑えつつバイアスを軽減する「直接ステアリング最適化（DSO）」手法を提案し、ユーザーのニーズに応じたバランス調整を実現する。

Talkie は 1930 年末を最後に学習データを停止しており、ナチスプロパガンダや極端な発言を防ぎつつ、AI の思考プロセスを理解する実験として開発された。