最近遇到一个复杂的需求,不知如何去实现.....

[IfEles]

对复杂的一段话(里面的商品或者地点信息,这些都是有数据库基础表维护的)筛选出里面的关键信息,拼装成后端(用的是 java,框架是 springboot)可以解析的一条数据,问题就是出在如何解析这条不规则的话,目前想象到的逻辑是想锤子科技开源的大爆炸 Big Bang 那套逻辑,用 HanLP( https://github.com/hankcs/HanLP)的自然语言处理方案来实现中文分词,然后用户去选择需要的关键词,但是选择后的数据拼成哪种形式给后端始终没想到很好的解决方案.回头想这个需求其实只要一纸固定的模板就能解决,硬是要做成这么复杂😂,各位大佬有啥更好的建议或者解决方案吗?小弟才疏学浅能想到的就这么多.

[sagaxu]

年薪百万的也来论坛求助吗？

[TomVista]

有个叫 结巴 的开源框框

[TomVista]

@sagaxu 你俩有过节吗?还是楼主不干人事?或者暴躁老哥在线?

[lihongjie0209]

前端只管把 `话` 传到后端, 后端负责分词

[IfEles]

@sagaxu 底层搬砖小码农而已😂

[IfEles]

@TomVista 有开源网站,老哥

[IfEles]

@lihongjie0209 问题就是出在分词的这个地方,如何筛选出关键有用的信息

[sunstar]

stopword

[TomVista]

@IfEles 训练一个 ai 识别文字中的某类词语. 结巴是一个开源的分词器.

[IfEles]

@TomVista 我看了一下好像,是 Python 的开源项目吧

[LeeSeoung]

NLP 领域 了解下 QA 中 是如何筛选出有用信息来回答的。

[TomVista]

没见过用 java 搞 ai 的,搭个 Python 服务器完事.

[IfEles]

@TomVista 😂

[leafin]

“筛选出里面的关键信息”，这个‘关键信息’是什麽呢？
如果‘关键信息’都已经在你的基础表里面，其实做个简单的正则匹配就行了。
如果你还想要分析‘商品’和‘地点’的关系，甚至是整句话的情感，又或者你的基础表不能完全包括这些‘关键信息’，那你确实需要 NLP 来进行处理

[magicZ]

我们做过类似的, 当时其中情感分析, 关键字处理, 都是 Python 去搞得.

[guyeu]

前端分词有点奇怪，应该是后端分词，这个东东应该是后端的一个服务，java 的话可能没什么特别好的轮子，python 的话，结巴分词然后去除停用词就可以。

[IfEles]

@guyeu 现在我用的那个 HanLp 的解决方案也是差不多结巴分词的这样的轮子

[guyeu]

@IfEles #17 看起来不错，但是分词对多数需求来说只是第一步。。。重新阅读了一下你的问题，感觉是数据结构没有确定？分词结果不是数组么，直接传给后端指定服务，或者更进一步的需求是什么呢？一般而言都是把尽量完整的信息传到后端，然后让后端去做特定的处理。

[seraphv3]

java 上分词我用过 IKAnalyzer，可以试下

[IfEles]

@guyeu 对的就是数据类型没确定,比如说数据是:x 仔牛奶:5 元 x 师傅方便 3 元,数据库里会维护好商品名称,但是单价可能每次得去这串复杂文字中提取,大概就是这样的需求