Word2Vec / GloVe

Modèles historiques d'embeddings de mots issus des cooccurrences.

Word2Vec et GloVe (Global Vectors) sont des méthodes fondatrices qui produisent un vecteur par mot à partir de ses cooccurrences dans un grand corpus. Elles ont popularisé une idée simple et puissante : un mot se définit par les contextes où il apparaît.

Elles ont rendu opérationnelles les analogies vectorielles et posé les bases de la recherche sémantique moderne. Mais chaque mot y reçoit un vecteur fixe : le même terme garde la même représentation quelle que soit la phrase, sans gérer la polysémie.

Pour une agence, l'intérêt est surtout conceptuel : comprendre cette lignée éclaire ce que font les modèles actuels. Ces approches statiques ont précédé les embeddings contextuels, aujourd'hui dominants, mais elles reposent sur le même principe de co-occurrence et le même objet, le vecteur.