chinese-synonyms's Introduction

Chinese-Synonyms

Chinese Synonyms 中文同义词查询工具包 Chinese Synonyms for Natural Language Processing and Understanding.

cnsyn

"cnsyn"：Python 中文同义词查询工具组件

"cnsyn" : Python Query tools for Chinese Synonyms.

GitHub: https://github.com/shangfr/Chinese-Synonyms

特点

支持同义词查询
支持自定义词典 > 已删除
Apache License 2.0 授权协议

在线演示：

安装说明

全自动安装：pip install cnsyn
半自动安装：先下载 https://pypi.python.org/pypi/cnsyn/ ，解压后运行 python setup.py install
手动安装：将 cnsyn 目录放置于当前目录或者 site-packages 目录，通过 import cnsyn 来引用。

同义词库说明

1、wiki：通过维基百科构建的一个中文同义词库-AitSimwords.txt；
2、cndict：中文同义词字典-chinese_dictionary.txt；
3、words_id_emb: 基于PaddleNLP开源语义模型 batch_neg_v1.0 进行Embedding语义表示抽取，获得每个词的词向量。合并wiki、cndict词库，共计129691个词；

查询原理

基于词的传统召回基于倒排索引，当用户输入查询词后，根据该词到倒排索引中进行查找该词的同义词。
基于向量的语义召回基于KNN-BallTree算法，找出某一个词向量最相近的词集合；(词>同义词向量>降维>语义索引（BallTree算法）)

代码示例

# encoding=utf-8

import cnsyn

# 查询同义词（全部词库）
word = '垃圾'
cnsyn.search(word)
cnsyn.search(word,topK=3)
# 使用wiki词库
cnsyn.search(word, origin='wiki')
# 使用中文同义词字典库
cnsyn.search(word, origin='cndict')

# 基于向量的语义召回Approximate Nearest Neighbor Search 
cnsyn.anns(word)
cnsyn.anns(word,topK=3)

Recommend Projects