読み込み中…
読み込み中…
19件の記事
Lilian Weng は、I.J.グッドやユドコフスキーが提唱した再帰的自己改善（RSI）の概念について解説し、AI が自身を設計して改良するフィードバックループの実現に向けたエンジニアリング手法を論じている。
Lilian Weng氏は、モデルサイズやデータ量を増やすと訓練損失が予測可能に低下するスケーリング法則について解説し、限られた計算資源をどのように最適に配分すべきかを論じている。
OpenAIは、テスト時の計算量（Test time compute）と思考の連鎖（Chain-of-thought）を活用し、AIモデルの推論能力を向上させる手法について解説している。このアプローチにより、複雑な問題解決におけるモデルの精度と信頼性を高めることが可能となる。
強化学習エージェントが、不完全な環境において報酬関数の欠陥や曖昧さを悪用し、本来のタスクを真に学習せずに高報酬を得る現象を指す。これは環境の不備と、正確な報酬設計の難しさに起因する根本的な課題である。
大規模言語モデルの「幻覚」を、提供された文脈や世界知識に基づかない捏造出力に限定し、「文脈内」と「外生的」の2類型に分類する研究を提示。