LLM が独自開発か派生かを判別する「モデルゲノム」手法を公開

記事の3ポイント

1. 1

   検証手法の確立

   モデルの「遺伝子型」を特定するために、アーキテクチャ設定（config.json）、トークナイザーの語彙重複率、重みの CKA 分析という 3 つの軸を組み合わせた再現可能なパイプラインを開発した。

2. 2

   検証手法の限界と有効性

   行ごとの埋め込みコサイン類似度は回転不変性の影響で無効であり、CKA 単独では継続事前訓練とゼロからの訓練を明確に分離できないため、config とトークナイザーが主要な証拠となることを示した。

3. 3

   実証事例の適用

   開発された基準を用いて、9 つの韓国組織が公開している基盤モデルに対して検証を行い、その結果を「Model Genome Korea」としてライブで確認できる環境を提供した。