#model robustness のAIニュース

2件の記事

強化学習微調整済み視覚言語モデルの頑健性と思考連鎖の一貫性に関する研究

Apple Machine Learning は、強化学習で微調整した視覚言語モデルが、誤ったキャプションや思考連鎖の痕跡といった単純なテキスト摂動に対して脆弱であることを示し、視覚的根拠の弱さやハルシネーションの問題を明らかにしました。

著者は、オープンソースモデルがクローズドラボのモデルに追いつけるかという問いについて、否定的な見解を示す。両者の能力差が縮まることはあっても完全には追いつかず、長期的な安定したバランスの形成時期は不透明であると予測している。