V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
a41050447
V2EX  ›  程序员

[伸手党] 有没有开源的中文分句项目, cpp or Python

  •  
  •   a41050447 · 2019-02-01 16:06:47 +08:00 via iPhone · 4013 次点击
    这是一个创建于 1209 天前的主题,其中的信息可能已经有所发展或是发生改变。
    就是把篇章分成句子,可自定规则最好
    8 条回复    2019-02-02 07:24:03 +08:00
    Sanko
        2
    Sanko  
       2019-02-01 17:05:30 +08:00 via Android
    jieba
    xemtof
        3
    xemtof  
       2019-02-01 17:06:12 +08:00
    @Sanko 结巴是分词的,没有分句吧。
    neptuno
        4
    neptuno  
       2019-02-01 17:38:21 +08:00
    分句?标点符号,换行符分一分?感觉这种东西自己写写比较好,重点是分词吧
    inhzus
        5
    inhzus  
       2019-02-01 17:41:33 +08:00   ❤️ 1
    正好可能以后用到, 稍微写了写

    使用的第三方库 [HanLP]( https://github.com/hankcs/HanLP)

    代码:


    结果:


    如果非要用 python 的话, 参考一下 pyhanlp 就好了
    a41050447
        6
    a41050447  
    OP
       2019-02-01 17:48:03 +08:00 via iPhone
    @neptuno 主要是要考虑各种规则,括号,引号,双标点,小数点,url 这些,还可能是中英混合的文档,造轮子太废时,
    neptuno
        7
    neptuno  
       2019-02-01 19:16:21 +08:00
    @a41050447 恩,你可以试试先分词再分句试试,主要是你要自定规则,有些轮子以后坑更大
    yuikns
        8
    yuikns  
       2019-02-02 07:24:03 +08:00
    通常是做词法分析,然后得到完整的结构即可吧?

    两个推荐看看的包:

    http://thulac.thunlp.org/

    https://stanfordnlp.github.io/CoreNLP/
    关于   ·   帮助文档   ·   API   ·   FAQ   ·   我们的愿景   ·   广告投放   ·   感谢   ·   实用小工具   ·   4194 人在线   最高记录 5497   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 02:28 · PVG 10:28 · LAX 19:28 · JFK 22:28
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.