Friso是使用c語言開發(fā)的一款開源的高性能中文分詞器,使用流行的mmseg算法實現(xiàn),完全基于模塊化設計和實現(xiàn),可以很方便的植入其他程序中,源碼無需修改就能在各種平臺下編譯使用!
功能介紹
Friso核心功能:
中文分詞:mmseg算法 + Friso 獨創(chuàng)的優(yōu)化算法,四種切分模式。
關鍵字提?。夯趖extRank算法。
關鍵短語提?。夯趖extRank算法。
關鍵句子提取:基于textRank算法。
Friso中文分詞:
四種切分模式:
簡易模式:FMM 算法,適合速度要求場合。
復雜模式- MMSEG 四種過濾算法,具有較高的岐義去除,分詞準確率達到了98.41%。
檢測模式:只返回詞庫中已有的詞條,很適合某些應用場合。(1.6.1版本開始)。
最多模式:細粒度切分,專為檢索而生,除了中文處理外(不具備中文的人名,數(shù)字識別等智能功能)其他與復雜模式一致(英文,組合詞等)。
分詞功能特性:
同時支持對 UTF-8/GBK 編碼的切分,支持 php5 和 php7 擴展和 sphinx token 插件。
支持自定義詞庫。在 dict 文件夾下,可以隨便添加/刪除/更改詞庫和詞庫詞條,并且對詞庫進行了分類。
簡體/繁體/簡體混合支持, 可以方便的針對簡體,繁體或者簡繁體切分。同時還可以以此實現(xiàn)簡繁體的相互檢索。
支持中英/英中混合詞的識別(維護詞庫可以識別任何一種組合)。例如:卡拉ok, 漂亮mm, c語言,IC卡,哆啦a夢。
很好的英文支持,英文標點組合詞識別, 例如c++, c#, 電子郵件,網(wǎng)址,小數(shù),百分數(shù)。
自定義保留標點:你可以自定義保留在切分結(jié)果中的標點,這樣可以識別出一些復雜的組合,例如:c++, k&r,code.google.com。
復雜英文切分的二次切分:默認 Friso 會保留數(shù)字和字母的原組合,開啟此功能,可以進行二次切分提高檢索的命中率。例如:qq2013會被切分成:qq/ 2013/ qq2013。
支持阿拉伯數(shù)字/小數(shù)基本單字單位的識別,例如2012年,1.75米,5噸,120斤,38.6℃。
自動英文圓角/半角,大寫/小寫轉(zhuǎn)換。
同義詞匹配:自動中文/英文同義詞追加. (需要在 friso.ini 中開啟 friso.add_syn 選項)。
自動中英文停止詞過濾。(需要在 friso.ini 中開啟 friso.clr_stw 選項)。
多配置支持, 安全的應用于多進程/多線程環(huán)境。