「⾼高」这种字形相同,编码却不同的汉字应该如何匹配?

2015-11-16 11:57:40 +08:00
 ck65
遇到一篇文稿,里面出现了很多重复汉字,如「⾼高」、「⽓气」、「⽀支」等等,通篇各处随机分布。文章无法阅读不说,也无法统计字数了(这个正是我想做的)。

原本想用正则去重(via http://www.zhihu.com/question/20805225 ),结果发现匹配不上。转换成字符编码一看,发现这些重复汉字根本不是同一个字符,只是字形相同(工具 https://r12a.github.io/apps/conversion/ )。

实在想不出辙儿了,请教一下大家该如何处理?先行谢过了!
2578 次点击
所在节点    问与答
3 条回复
Sylv
2015-11-16 12:09:51 +08:00
Unicode Normalization (Unicode 规范化)

Python 的例子:
>>> u"⾼ 高"
u'\u2fbc \u9ad8'
>>> unicodedata.normalize('NFKC', u'⾼ 高')
u'\u9ad8 \u9ad8'
ck65
2015-11-16 13:08:16 +08:00
@Sylv 谢谢!超级精准的解答!
lululau
2015-11-16 13:09:29 +08:00
2F00~2FEF 为康熙字根

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/236498

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX