大语言模型在安全领域的思考和尝试 - AI 安全助手

[ihacku]

https://mp.weixin.qq.com/s/q1i_VpNaxxmokutayI-i_g

[israinbow]

生成式集成进杀软也许是个好方案，也许很快就能用到人工智能的自动化分析工具了。

[kingnopwang]

看起来很有趣，用大模型辅助一些安全检测和信息查询。看起来作者使用的是 ChatGPT ，没有选择目前开源的大模型，这个就还面临一些返回结果可靠性的问题。

[ternice]

很巧我最近也在弄这个，和楼主的思路很一相似。有几个问题一只困扰着我找不到思路：

[ternice]

1. 怎样让 LLM 根据问题 使用最佳的（最接近真实的） chains 回答问呢？
2：如果是要去返回如防护数据，那么怎么去处理时间问题。（比如 WAF 攻击是每天会产生，怎么根据用户问题转化成查找，虽然可以使用 SQLchain, 但是有面临第一个问题。怎么区分不同的 SQL 表呢

[ruanjf]

结合 SD ，想象空间巨大

[eleganceoo]

牛的，最近也有点想法，哈哈哈哈，原来都在做

[jones2000]

大语言模型只是一个颖上添花的功能， 最终还是要靠在安全领域的深耕。 问题回答的在好，解决不了问题都是白搭。
另外一个核心的问题就是作为一个安全产品， 你如何确保 ChatGPT 是安全的，回答的是准确的。

[firsthym]

关注