Measuring Semantic Similarity by Latent Relational Analysis

This paper introduces Latent Relational Analysis (LRA), a method for measuring semantic similarity. LRA measures similarity in the semantic relations between two pairs of words. When two pairs have a high degree of relational similarity, they are analogous. For example, the pair cat:meow is analogous to the pair dog:bark. There is evidence from cognitive science that relational similarity is fundamental to many cognitive and linguistic tasks (e.g., analogical reasoning). In the Vector Space Model (VSM) approach to measuring relational similarity, the similarity between two pairs is calculated by the cosine of the angle between the vectors that represent the two pairs. The elements in the vectors are based on the frequencies of manually constructed patterns in a large corpus. LRA extends the VSM approach in three ways: (1) patterns are derived automatically from the corpus, (2) Singular Value Decomposition is used to smooth the frequency data, and (3) synonyms are used to reformulate word pairs. This paper describes the LRA algorithm and experimentally compares LRA to VSM on two tasks, answering college-level multiple-choice word analogy questions and classifying semantic relations in noun-modifier expressions. LRA achieves state-of-the-art results, reaching human-level performance on the analogy questions and significantly exceeding VSM performance on both tasks.Cet article pr\ue9sente l'analyse relationnelle latente (LRA), m\ue9thode de mesure de la similarit\ue9 s\ue9mantique. Ce type d'analyse permet de mesurer la similarit\ue9 de relations s\ue9mantiques entre deux paires de mots. Lorsque deux paires pr\ue9sentent un haut degr\ue9 de similarit\ue9 relationnelle, on dit qu'elles sont analogues. Par exemple, la paire chat:miauler est analogue \ue0 la paire chien:japper. La science cognitive r\ue9v\ue8le que la similarit\ue9 relationnelle est fondamentale pour un grand nombre de t\ue2ches cognitives et linguistiques (p. ex. de raisonnement analogique). Lorsqu'on applique le mod\ue8le de l'espace vectoriel (VSM) pour mesurer la similarit\ue9 relationnelle, la similarit\ue9 des deux paires est calcul\ue9e par le cosinus de l'angle entre les vecteurs qui repr\ue9sentent les deux paires. Les \ue9l\ue9ments des vecteurs se fondent sur les fr\ue9quences de profils constitu\ue9s manuellement \ue0 l'int\ue9rieur d'un vaste corpus. La m\ue9thode LRA compl\ue8te le mod\ue8le VSM de trois fa\ue7ons : (1) des profils sont tir\ue9s automatiquement du corpus, (2) les donn\ue9es de fr\ue9quence sont filtr\ue9es par d\ue9composition en valeurs singuli\ue8res, et (3) des synonymes sont utilis\ue9s pour reformuler les paires de mots. Cet article d\ue9crit l'algorithme LRA et compare, sur le plan exp\ue9rimental, l'application de la m\ue9thode LRA et du mod\ue8le VSM \ue0 deux t\ue2ches, soit la r\ue9ponse \ue0 des questions \ue0 choix multiples de niveau universitaire portant sur les analogies entres des mots et la classification des relations s\ue9mantiques dans les expressions de type nom-d\ue9terminant. L'analyse relationnelle latente donne des r\ue9sultats \ue0 la pointe du progr\ue8s, atteignant le rendement de l'humain pour les questions d'analogie et d\ue9passant largement le rendement du mod\ue8le de l'espace vectoriel pour les deux t\ue2ches.NRC publication: Ye