IMDb感情分析：DistilBERT LoRAとTF-IDF比較・校正・解釈性テスト

記事の3ポイント

1. 1

   厳格なデータ監査とベースライン構築

   クラス順序、レビュー長さの偏り、重複漏洩などのデータを精査し、TF-IDF とロジスティック回帰による強固なベースラインを確立した。

2. 2

   LoRA を用いた DistilBERT の微調整と評価

   PEFT 経由で DistilBERT を LoRA で微調整し、精度や ROC-AUC だけでなく、閾値選択や確率較正（ECE）も詳細に評価した。

3. 3

   モデルの解釈可能性と頑健性の検証

   単語レベルのオクルージョンサリエンスや文頭・文末の切り捨て影響を調査し、長文コンテキストにおける限界や予測根拠を解明した。