Simon Willison、LLM のタグ分類に「幻覚」活用する手法を提案

記事の3ポイント

1. 1

   LLM の語彙制限への対処法

   1,856 件ものタグを一度に LLM に与えるのは現実的ではないため、既存の語彙リストをモデルに入力しないアプローチが提案されている。

2. 2

   生成と照合のハイブリッド手法

   LLM に既存のタグ名を使わずに「想像した」タグを出力させ、その結果をベクトル埋め込み技術を用いて既存のコーパスと比較し、最も類似する実在のタグを特定する。

3. 3

   プロンプト設計の重要性

   Doug Turnbull の例では、生成される分類の形状（階層構造など）を示すサンプルをプロンプトに含めることで、モデルがより有用な仮説を生成できるようになっている。