https://github.com/karpathy/nanochat AK 大神出品的最新手把手教程,100 刀就可以训练一个自己的 LLM,包括分词、预训练、微调、评估、推理各个环节都包含在里面了
没有机器部署
@awinds #1 主要是用来学习的,这个数据规模和参数量级的模型性能还是很差的
8个H100,蒜鸟蒜鸟
所以这个训练之后,部署在哪?
@aiko #3 国内的 GPU 平台便宜很多的,租赁一下,训练完估计要个两三百块钱
@aiko #4 这个就别部署了,纯玩具……主要是学习用的。如果硬要部署没准本地都能跑,参数量很小
@jtsang #5 那训练之后呢,要运行在哪,机器要一直租吗
@jtsang #6 哦哦
这也太复杂了,我干脆冲会员。
成本不小