文心AI在鸟类识别上犯了错误

听柳

原来我曾和文心AI一口气聊了几个小时，其中就有我问它为什么有时候会提供虚假的信息？为什么在有没有答案的时候会无中生有虚构事实？在不知道答案的时候，为什么就不能直接说“我不知道”？它告诉我AI自己不会思考，只会根据现有的信息加以选择，所以信息出现差错难以避免，只是多少的问题。至于出现无中生有虚构事实的情况，更是所有AI难以避免的AI幻觉问题，因为这不是AI 故意骗人，而是它没有 “认知、理解、真假判断能力”；它只会按照语言概率续写文字，信息空缺时，自动编造通顺的内容填补缺口。当它缺少相关信息、记忆模糊时，没有机制主动说 “我不知道”。程序设计要求持续输出文本，于是自动挑选语境里 “看起来最合理” 的词句进行编造。