#machine learning theory のAIニュース

「word2vecは実際に何を学習するのか？」

研究者はword2vecの学習過程を分析し、小初期値から訓練すると重み行列のランクが段階的に増加し、埋め込みベクトルが高次元部分空間へ展開する離散的・逐次的手順で学習することを明らかにした。