上下文越短,出现幻觉的概率越高,因为随着聊天的进行,大模型需要抉择哪些历史内容需要『忘记』,而作为交流者的我们,以为它还记的,它即便忘了,也会硬聊即便是瞎掰,这样就显得它好像出现了幻觉。 记忆容量越多(上下文长度),『忘记』算法越精妙,给人它好像出现幻觉的感觉就越弱或来得越晚。
AI幻觉排行榜
https://github.com/vectara/hallucination-leaderboard
适用于部分场景,仅供参考
@RyanVan #1
谢了佬
感觉已经很棒了 现在的ai
幻觉不可消除,不如加思考和网络搜索
上下文越短,出现幻觉的概率越高,因为随着聊天的进行,大模型需要抉择哪些历史内容需要『忘记』,而作为交流者的我们,以为它还记的,它即便忘了,也会硬聊即便是瞎掰,这样就显得它好像出现了幻觉。
记忆容量越多(上下文长度),『忘记』算法越精妙,给人它好像出现幻觉的感觉就越弱或来得越晚。