认知投降：人工智能 可以让你的 信心 提高两倍

TNW | Artificial-Intelligence – 19 Jul 26

AI advice made people three times less accurate but twice as confident,...

A study found that access to AI advice collapsed people's willingness to say "I don't know" from 44% to 3%, while accuracy dropped from 27% to 9%.

[!quote]+

来自法国和意大利三所大学的研究人员发现，获得人工智能建议后，人们说“我不知道”的意愿率从44%降至3%。命中率从27%降至9%。与此同时，信心从30%上升到76%。米兰比科卡大学副教授瓦莱里奥·卡普拉罗说：“人们变得更差，准确率只有三分之一，但信心却翻了两倍。”

金钱激励有所帮助，但效果不大。承认无知的意愿率从3%上升到8%，准确率从9%上升到16%，但两者都远低于无AI的44%和27%的基线。

沃顿商学院的研究人员今年早些时候创造了“认知投降”一词，用以描述同样的现象：人们接受错误的人工智能答案80%，同时报告的信心比没有人工智能的人更高。这项新研究提供了更清晰的数据点。不仅仅是人们信任错误的人工智能答案。而是人工智能的存在抑制了认知习惯——识别未知之物。

theregister – 19 Jul 26

Using AI makes people less likely to admit they don't know something

Researchers found confidence increased even as accuracy fell