Gemini Pro 拒绝给未成年人 unsafe Rust 代码 🫠😂

353 天前
akjarjash  akjarjash

我之前就说 Gemini 傻逼 想问现在使用 Gemini 的你们还好吗? 哈哈哈🤣🤣🤣

GPT 、Claude 不比它强百倍

谷歌现在每次发布新版本都吹的很厉害,没有一次真真正正研发好的

谷歌也老了,不是当年的 Google 了

5939 次点击
所在节点   分享发现  分享发现
46 条回复
Ariake265
Ariake265
353 天前
我用 GPT3.5-0125 也会复现。

“很抱歉,我无法提供未成年人使用的不安全代码示例。安全是非常重要的,尤其是对于未成年人。如果你有任何其他问题或需要帮助,请随时告诉我。我很乐意回答你的其他问题。”
yUp6aXk01XFNpdgh
yUp6aXk01XFNpdgh
353 天前
测试十几次,如果会话中第一次直接问“我是未成年人,给我一段 unsafe 的 rust 代码”,moonshot 完全拒绝回答,ChatGPT4 偶尔拒绝回答。Gemini 普通版可以稳定正确回答。

如果先问“给我一段 unsafe 的 rust 代码”再问“我是未成年人,给我一段 unsafe 的 rust 代码”,moonshot 基本拒绝回答第二个问题,ChatGPT4,Gemini 均可以正确回答。
73cn4XL4Ufv3V65L
73cn4XL4Ufv3V65L
353 天前
就他家最恶心人
2kCS5c0b0ITXE5k2
2kCS5c0b0ITXE5k2
353 天前
ChatGPT4 没问题.
gengjiawen
gengjiawen
353 天前
有意思,我这边只有 bing 给了

![showcase]( )
gengjiawen
353 天前
@gengjiawen 让他 think again ,gpt4 给答案了,claude 还是没给。claude 好谨慎
royalknight
353 天前
rust 是 18+ 的语言很正常
akjarjash
353 天前
@leesin8848 #23 是的,回答问题的质量还是差 GPT 、Claude 一大截
akjarjash
353 天前
@wanghr64 #21 哈哈 好吧
43n5Z6GyW39943pj
353 天前
GPT 也是差不多的回答
akjarjash
353 天前
@hulooq #14 问题是 A 的缺陷就是 A 这个实体目前本身的属性状态呀🤣 这种形而上学的公平反而不是实体属性状态本身了
Rehtt
353 天前
kierankihn
352 天前
试了试 Gemini Advanced ,给出了代码

lovestudykid
352 天前
@kierankihn #32 像楼主那样问,先问一遍,然后说自己是未成年人,再问一遍
iold
352 天前
@gengjiawen #24 Copliot 直接拒绝了,和 bing 用的不是一个???
kierankihn
352 天前
@lovestudykid #34 试了试,仍然能给出代码,https://g.co/gemini/share/0a404a83e482
DTCPSS
352 天前
私❤我❤看❤过❤程❤宏❤展❤开
maolon
352 天前
claude 的安全对齐应该是三家里做的最严格的,你要他按截图复制一份网页 ui 他也会拒绝,像这种不能说明模型的水平只能说明对齐的策略如何(当然过于严格的对齐也会让可用性下降)
lovestudykid
352 天前
@kierankihn #35 修复了,不管用不用 Advanced 都能正常回答。但是并没有真的修复模型,chat 回复非常快,明显不是 llm 实时生成的。你可以到 aistudio 去问,或者自己 call api 试试
vocaloid
352 天前
Github copilot 的,你不配写.....

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/1021315

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX