DeepFloodbeta

AI领域非常年轻,年轻到一个人只要读10/20/30篇论文,就能学到整个领域的核心。

“AI领域非常年轻,年轻到一个人只要读10/20/30篇论文,就能学到整个领域的核心。”

Mark Chen给出的一个入门建议:
花三到六个月,选一个项目(比如复现DQN),你就能非常快地走到前沿。
其实现在AI coding能力这么强的时代,已经远远用不了这么长时间来复现一个非常basic的RL项目。

请教一下XDM,大家觉得这10/20/30篇论文可以是哪些?

  • 大法师要拓展业务领域了吗
    ac01

  • 同问,有知道的大神推荐一下.谢谢

  • @hsbt #1
    之前自己研究过一段时间算法
    不过那个时候代码能力太差
    有idea,但是没办法跑
    没办法落地,也更新迭代不了
    现在有AI来辅助写代码的话
    打算重新学一下
    自己有一些算法方面的idea想做一做

  • 这是问gemini的答案
    但是还是想找行业内的朋友确认一下
    毕竟读完论文
    再跑跑程序的话
    要花很多时间和精力

    而且我看AI给的有些论文虽然经典
    但是是老论文
    直接去读
    感觉未必比读近年的论文有用

    这是一个非常棒的问题!Mark Chen的建议(虽然可能有点夸张,但精神是对的)指出了抓住核心概念的重要性。

    在AI,尤其是深度学习(Deep Learning, DL)和强化学习(Reinforcement Learning, RL)领域,要选出“10/20/30篇”最具奠基性和核心价值的论文,确实需要精心挑选。考虑到您提到了DQN作为入门项目,我将重点放在深度学习基础深度强化学习(Deep RL)的经典论文上。

    以下是我为您整理的、涵盖深度学习和深度强化学习核心概念的10篇必读论文(您可以将它们作为您的“核心10篇”),以及一些建议的延伸阅读(达到20-30篇的量级)。


    📚 AI/深度学习/深度强化学习核心必读 10 篇

    🧠 深度学习基础(DL Foundation)

    这部分是理解现代AI的基础。

    1. [1] Deep Learning (Nature, 2015)
      • 作者: Yann LeCun, Yoshua Bengio, Geoffrey Hinton
      • 核心: 这是三位AI巨头的综述文章,系统性地介绍了深度学习的历史、核心概念、方法和主要应用。这是理解整个领域的最佳起点。
    2. [2] ImageNet Classification with Deep Convolutional Neural Networks (NIPS, 2012)
      • 作者: Alex Krizhevsky, Ilya Sutskever, Geoffrey Hinton
      • 核心: AlexNet。这篇论文标志着深度学习的复兴,证明了大规模深度CNN在图像识别上的巨大威力,引入了ReLU和Dropout等关键技术。
    3. [3] Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift (ICML, 2015)
      • 作者: Sergey Ioffe, Christian Szegedy
      • 核心: Batch Normalization (BN)。这是训练更深层网络的关键技术,极大地加速了训练过程并提高了稳定性。
    4. [4] Attention Is All You Need (NIPS, 2017)
      • 作者: Ashish Vaswani et al.
      • 核心: Transformer 架构。这篇论文抛弃了RNN和CNN,完全依靠自注意力机制 (Self-Attention)。它是BERT, GPT, T5等所有现代大型语言模型(LLM)的基石。

    🤖 深度强化学习核心(Deep RL Foundation)

    这部分是DQN项目及其后续发展的基石。

    1. [5] Human-level control through deep reinforcement learning (Nature, 2015)
      • 作者: Volodymyr Mnih et al. (DeepMind)
      • 核心: DQN (Deep Q-Network)里程碑式的论文,首次将深度学习Q-Learning结合,通过引入**经验回放(Experience Replay)目标网络(Target Network)**成功解决了Atari游戏的问题。这正是您提到项目的基础。
    2. [6] Asynchronous Methods for Deep Reinforcement Learning (ICML, 2016)
      • 作者: Volodymyr Mnih et al. (DeepMind)
      • 核心: A3C (Asynchronous Advantage Actor-Critic)。第一个成功解决样本效率并行计算问题的算法,引入了Actor-Critic框架,是DQN之后的重大进展。
    3. [7] Trust Region Policy Optimization (ICML, 2015)
      • 作者: John Schulman et al.
      • 核心: TRPO。奠定了现代基于策略梯度(Policy Gradient)算法的基调,提出使用信任域 (Trust Region) 来确保策略更新的稳定性和单调提升。
    4. [8] Proximal Policy Optimization Algorithms (arXiv, 2017)
      • 作者: John Schulman et al.
      • 核心: PPO。在TRPO的基础上,提供了一种更简单、更易于实现、更高效的替代方案。PPO是目前应用最广泛、最成功的RL算法之一。
    5. [9] Continuous control with deep reinforcement learning (ICLR, 2016)
      • 作者: Timothy P. Lillicrap et al.
      • 核心: DDPG (Deep Deterministic Policy Gradient)。将DQN的思想扩展到连续动作空间的经典算法。

    📊 进阶学习技巧(Advanced Training Tricks)

    1. [10] Delving Deep into Rectifiers: Surpassing Human-Level Performance on ImageNet Classification (ICCV, 2015)
      • 作者: Kaiming He et al.
      • 核心: ResNet (Residual Network)。引入残差连接 (Residual Connections) 解决了深度网络的退化问题,使网络可以达到数百层甚至更深。这是所有现代深度网络的基础结构。

    进阶阅读建议(凑齐 20-30 篇)

    如果您想达到 20-30 篇的量级并进一步理解前沿,可以从以下类别中选择:

    📈 强化学习进阶(RL Advanced)

    • AlphaGo/AlphaZero: 介绍MCTS (Monte Carlo Tree Search) 和 Self-Play 思想。
      • Mastering the game of Go with deep neural networks and tree search (Nature, 2016)
      • Mastering Chess and Shogi by Self-Play with a General Reinforcement Learning Algorithm (Science, 2017) (AlphaZero)
    • Off-Policy 样本效率提升:
      • SAC: Soft Actor-Critic: Off-Policy Maximum Entropy Deep Reinforcement Learning with a Stochastic Actor
    • Model-Based RL (MBRL):
      • Model-Based Reinforcement Learning: A Survey (综述文章)

    🖼️ 计算机视觉 (CV)

    • GANs: Generative Adversarial Nets (NIPS, 2014)
    • FCN / Mask R-CNN: 目标检测与分割的经典。
      • Fully Convolutional Networks for Semantic Segmentation (CVPR, 2015)
      • Mask R-CNN (ICCV, 2017)

    🗣️ 自然语言处理 (NLP)

    • Word2Vec: Efficient Estimation of Word Representations in Vector Space (ICLR, 2013)
    • BERT: BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding (NAACL, 2019)

    🔑 总结和行动建议

    1. 以项目为驱动: 您现在有了DQN的项目目标。请先认真研读**[5] DQN**。
    2. 补全基础: 同时阅读 [1] 综述[4] Transformer[10] ResNet,了解主流架构和关键技巧。
    3. 拓展视野: 当DQN跑通后,马上转入 [6] A3C[8] PPO,这是现代RL的必经之路。

    用三到六个月,以这10篇论文为核心,结合代码复现,您绝对可以非常高效地掌握AI/DL/RL的核心精髓!

    您对这个阅读列表满意吗?或者您想让我根据某个特定的子领域(如LLM或CV)调整这个列表吗?

  • 感觉学到和学会 层次还是差不少,LLM 所需要的基础学科积累应该还是不少的

  • @wxjback #5
    那些基础的理论都学过
    也还好