ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

ik分词器支持标点符号,特殊字符分词(分词结果包含特殊字符)

2022-02-10 17:03:34  阅读:416  来源: 互联网

标签:LATIN Character ik UnicodeBlock 分词 特殊字符 ub


需要修改ik分词插件源码

github官网下载对应那本的ik源码包(徐泽自己需要的版本)

下载好后,解压,用idea打开编辑源码

在工具类(CharacterUtil.java)里,找到方法 identifyCharType,加入以下代码:

}else if (ub == Character.UnicodeBlock.GREEK // 希腊符号
				// 希腊扩展符号
				|| ub == Character.UnicodeBlock.GREEK_EXTENDED
				// 拉丁字符
				|| ub == Character.UnicodeBlock.BASIC_LATIN
				// 拉丁补充字符
				|| ub == Character.UnicodeBlock.LATIN_1_SUPPLEMENT
				// 拉丁扩展A字符
				|| ub == Character.UnicodeBlock.LATIN_EXTENDED_A
				// 拉丁扩展B字符
				|| ub == Character.UnicodeBlock.LATIN_EXTENDED_B) {
			return CHAR_CHINESE;
		}

 原理也很简单,就是把特殊符号当作中文处理。

然后maven--package打包上传到服务器,将打包好的Java包替换掉原来的ik分词jar包

 重启es即可!!!!!!

 

 不想改代码的,百度网盘自取!!!!!
链接:https://pan.baidu.com/s/1w4mAvbdcRvUrdgONTf_0CA 
提取码:0108

!!!转发请注明出处和作者名称。 !!!转发请注明出处和作者名称。 !!!转发请注明出处和作者名称。 重要的事,说三遍。

标签:LATIN,Character,ik,UnicodeBlock,分词,特殊字符,ub
来源: https://blog.csdn.net/qq_45151158/article/details/122864502

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有