• 老王

    问文科的没问题。如果问理工科就是科学\计算\工科方面的,

    他不是和google 搜索一样直接给出正确答案,而是慢慢在回答里面推理,绕逻辑,

    而且有一个很坏的习惯 : 非常喜欢说 “不要如何如何” “不是 如何如何”

    很多时候,有些很有诱惑或者类似于陷阱一样的错误做法,正常人根本想不到,他非要用“不要如何如何” “不是如何如何” 的说出来给人听,其实已经给人造成误导了。尤其是当人类记忆慢慢退去,很可能在回忆正确答案的时候,会把gpt 说的 “不要 xxxx” 这种错误答案想起来,并且当成正确答案。

    总之现在他总是不能直接回答正确答案,反而特别喜欢自说自话的,详细的描述“不要如何” “不要如何” 之类的 ,去启发人类进行错误的思维。 甚至是去启发人类做危险的行为。

    看了真的难受,本来只是为了找到正确答案,他非要详细展示一个非常陷阱式的错误答案,甚至展示多个。

    prompt 里面强制不许这样,还是经常会,及其难以纠正。

    主楼
  • Enze

    我很怀疑这是对AI的偏见。

    如果没有AI,这种回答方式往往是问答社区里最受欢迎的答案,因为它等于浓缩了思考、踩坑的过程,比直接甩答案更有价值。

    #1
  • 老王

    我从来都是最讨厌用不要,和不是这种来回答的。 凡是不能直接说出正确过程,反而用不要和不是的,基本都是对于这个知识并不了解,或者一知半解的老师,喜欢这样做。 我见到过,凡是低水平的初中高中老师,非常喜欢说 不要xxx 不是xxx。 因为他不知道如何用正确的,陈述式的方法,将明白一个原理。

    我自己在大学做过家教,所以我自己也知道, 当几乎不会教的时候,只要开启 “不要 不是” 模式就能和学生忽悠很长时间。

    #2
  • iceberg01

    它网页版里有它的系统提示词,可能它的提示词优先级比你的 prompt 要高,所以它还会这样说。GPT-6 astra 好像没这个问题。

    #3
  • 救

    ai做不到很精确地切中人会踩的坑,而是重复一些大家都懂的轱辘话。就像同样记忆一个知识点,你会发现人编的口诀很好用,但是ai就编不出什么能让人印象深刻的。

    #4
  • Enze

    它肯定有思考的过程,你不喜欢的这些东西可以用一些提示词去掉

    ai做不到很精确地切中人会踩的坑,而是重复一些大家都懂的轱辘话。就像同样记忆一个知识点,你会发现人编的口诀很好用,但是ai就编不出什么能让人印象深刻的。

    没感受到“就像”前后两段话的关联

    大家都懂的

    每个人的知识是不一样的,水平接近的人对踩坑的理解也可能不一样,你不会犯的错也许这个世界上真的有很多人在犯,不预设用户的水平很正常吧

    #5
  • Evanescentum

    Astra也一样,GPT系列模型通病,思维钢印了。我要把一个项目迁移到另一个云上,问它修改点,第一句话就是不用全盘重写核心逻辑和库表设计,给我看红温了

    #6
  • Enze

    建议尝试 Project-only memory,调教一下 Project 提示词,在里面随时对话都会是调教后的形状,而且保证领域内 memory 不会被其他对话波及

    图片

    #7
  • 救

    我想要说的是,ai回答时没有自己遇到困难的这个过程,所以对于可能踩的坑更多是臆想,但是对于有逻辑的人是根本不会犯的错误。正如ai没有记忆的过程,所以对哪种方法适合记忆也只是臆想,实际对人类并不好用。

    不过你说的每个人知识不一样是有道理的。在没有ai之前人一般是和同圈子同阶层的人交流,大家有着相似的知识,交流起来障碍很少。但是ai给了跨圈子的一种途径。不过因为一个问题仍然大多都是本圈子的人在问,所以ai反复提及一些简单的问题显得诟病更多吧。

    #8

发表回复

登录后回复