一文詳解 Word2vec 之 Skip-Gram 模型(實現篇)
一文詳解 Word2vec 之 Skip-Gram 模型(實現篇)
雷鋒網按:這是一個關於 Skip-Gram 模型的系列教程,共分為結構、訓練和實現三個部分,本文為最後一部分:實現篇。原文作者天雨粟,原載於作者知乎專欄,雷鋒網已獲授權。
前言
上一篇的專欄介紹了Word2Vec中的Skip-Gram模型的結構和訓練,如果看過的小夥伴可以直接開始動手用TensorFlow實現自己的Word2Vec模型,本篇文章將利用TensorFlow來完成Skip-Gram模型。還不是很了解Skip-Gram思想的小夥伴可以先看一下上一篇的專欄內容。
本篇實戰代碼的目的主要是加深對Skip-Gram模型中一些思想和trick的理解。由於受限於語料規模、語料質量、算法細節以及訓練成本的原因,訓練出的結果顯然是無法跟gensim封裝的Word2Vec相比的,本代碼適合新手去理解與練習Skip-Gram模型的思想。
工具介紹
● 語言:Python 3
●…
View On WordPress














