読み込み中…
読み込み中…
3件の記事
Google は、実務環境における AI エージェントが無限ループに陥るやハルシネーションによるロジック逸脱などの課題に対処するため、ADK 2.0 を開発したと報告している。
Pramaana Labs は Khosla Ventures などから 2700 万ドルの資金調達に成功し、AI システムの信頼性を高めるための形式検証技術の実用化を進める。
研究者は、数学的推論で誤算や論理エラーを頻発する大規模言語モデルに対し、推論過程を検証するプロセス監督手法を提案し、信頼性を向上させる。