Richard Sutton的The Bitter Lesson在人工智能研究领域有很大影响力。核心思想是基于过去70年人工智能研究经验,精心设计的各种人工智能算法不如算力大量投入后从简单规则中涌现出的智能。

这次访谈是对这一思想更进一步解释,认为当前的LLM还是基于人工语料的堆叠,真正的智能应该是跟环境互动中自我学习进化出来的。