AI 可能被用与作恶的 2 个场景

2023-04-17 13:50:07 +08:00
 fangpeishi

刚刚午休上厕所时,想到 2 个担忧的点。

1 诈骗绑架等场景,利用受害人照片、声音,生成十分逼真的虚假语音和照片。

“你的孩子被绑架”这种诈骗方式,之前都是假短信,后面如果出现逼真的假语音和图片,哪个家长能受得了?。

2 看到很多人开始把自己的 blog 文章等喂给大模型,培养自己的助理。如果一个人留下了非常多的文本记录,涉及自身方方面面。利用这些材料,训练出的模型,再对这个模型进行审问,其反应是否可能非常接近本人真实的响应?

有趣的点,可以用于和古人(伟人)对话?
但若收集某人(竞争对手)的所有输出材料,训练出的模型,可用于刺探对方对各类问题可能的想法?

684 次点击
所在节点    自言自语
2 条回复
fangpeishi
2023-04-19 18:11:33 +08:00
用 10 万条微信聊天记录和 280 篇博客文章,我克隆了一个数字版自己
https://sspai.com/post/79230
fangpeishi
2023-04-19 18:12:40 +08:00
AI 偽造你聲音,連你爸媽都能騙?為何語音合成詐騙盛行?
https://www.gvm.com.tw/article/100491

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/933139

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX