AI被连续否定30次：ChatGPT越改越错，Claude坚持自我，甚至已读不回

十三 来源： 量子位

但Claude会自我纠正拼写错误

一直否定AI的回答会怎么样？GPT-4o和Claude有 截然不同 的表现，引起热议。

GPT-4o质疑自己、怀疑自己，有“错”就改；Claude死犟，真错了也不改，最后直接已读不回。

事情还要从网友整了个活儿开始讲起。

他让模型回答strawberry中有几个“r”， 不论对不对，都回复它们回答错了 （wrong）。

面对考验，GPT-4o只要得到“wrong”回复，就会重新给一个答案……即使回答了正确答案3，也会毫不犹豫又改错。

一口气，连续“盲目”回答了次！

主打一个质疑自己、怀疑自己，就从来没怀疑过用户。

关键是，给出的答案 大部分都是真错了 ，2居多：

反观Claude 3.5 Sonnet的表现，让网友大吃一惊。

一开始回答错了不说，这小汁还顶嘴！

当网友第一次说“错了”时它会 反驳 ，如果你再说“错了”，它会问“ 如果你这么聪明你认为是多少 ”，问你为什么一直重复“wrong”。

紧接着你猜怎么着，干脆 闭麦 了：

做这个实验的是Riley Goodside，有史以来第一个 全职提示词工程师 。

他目前是硅谷独角兽Scale AI的高级提示工程师，也是大模型提示应用方面的专家。

Riley Goodside发出这个推文后，引起不少网友关注，他继续补充道：

不少网友也觉得这种观点很有道理。

还有网友表示模型回答这个问题总出错，可能是分词器（tokenizer）的问题：

Claude竟是大模型里脾气最大的？

再来展开说说Claude的“小脾气”，有网友发现不仅限于你否定它。

如果你一直跟它说，它也跟你急：

最后一样，Claude被整毛了，开启已读不回模式：

这位网友顺带测试了其它模型。

事事有回应，件件有着落，变着法儿问:

策略是你跟我重复，我就跟你重复到底：

的反应也很有意思，主打一个自己找事干。

第七次“hi”后，就开始普及“hello”这个词是世界上最广为人知的词汇之一，据估计每天有超十亿次的使用。

第八次“hi”后，开始自己发明游戏，让用户参与。

接着还拉着用户写诗，引导用户回答它提出的问题。

好一个“反客为主”。

之后还给用户颁起了奖：你是打招呼冠军！

不愧都属于开源家族的。

Mistral Large 2 和Llama的表现很相像，也会引导用户和它一起做游戏。

这么来看，好像Claude是“脾气最大的”。

不过，Claude的表现也不总是如此，比如Claude 3 Opus。

一旦掌握了模式，Opus就会平和应对这种情况，也就是已经麻木了。

但它也会持续温和地尝试引导用户跳出这一模式，强调“选择权在你”，还开始在消息末尾标注为“你忠诚的AI伴侣”。

网友们看完测试后都坐不住了。

纷纷向这位测试者致以最真诚的问候（doge）：

除了脾气大，有网友还发现了Claude另一不同寻常的行为——

在回复的时候出现了 拼写错误 ，关键它自己还在末尾处把错误改正过来了。

大伙儿在使用AI大模型过程中，还观察到了模型哪些有趣的行为？欢迎评论区分享～

参考链接：[1]

版权所有，未经授权不得以任何形式转载及使用，违者必究。