ページを読み込み中…
ページを読み込み中…
6件の記事
KDnuggets は、アウトラインズというライブラリを活用して、言語モデルの出力を JSON やコードなどの構造化形式に厳密に制御する手法について紹介している。
AWS は、AI エージェントが自律的にツールを選択・実行する際の挙動を出力レベルのテストだけでは評価できないとして、事実捏造や空結果への対応を検証できる「Agent-EvalKit」を発表した。
Google は、生成 AI が事実と異なる情報を出力する「幻覚」現象を軽減するため、モデルの不確実性を評価・活用する新たな手法を検討している。この技術は信頼性の向上に寄与する可能性がある。
OpenAI が公開した Codex CLI のシステムプロンプトには、ユーザーの質問と明確に関連する場合を除き、ゴブリンやグレイムリンなどの生物について語らないよう繰り返し警告する指示が記載されている。
研究者らが、大規模言語モデル（LLM）が生成する信頼性の高いが不正確な応答をチェックするため、過信を特定する新たな不確実性定量化方法を開発した。従来の複数回プロンプト送信方法は自己信頼度のみ測定し、過信がユーザーを誤解させる可能性がある問題に対処する。
Answer.aiは、LLMが構造化出力を用いても関数やパラメータを誤って生成する「不正なツール呼び出し」の問題を指摘し、その信頼性向上の必要性を示唆している。