@X-AIO #3 发布于2025/9/28 20:18:34，编辑于2025/9/28 20:21:16 性价比最高啊，民用级别的话40系吧 20/30系不支持FP8，性能和显存都浪费 如果不在意FP8的兼容性问题，那么V100/3090都可以选 AMD的卡暂时别选，小白折腾不来 4060TI16G显存版 是不是预算有限比较合适的选择
@电动面包 #4 看用途规划，如果希望长期可以玩，并且对模型参数规模有要求的话，还是40系以上，内存越大越好。 如果只是满足短期的小需求，那么只需要考虑显存当下够用就行。 基本上15B以下参数量的Transformer模型对指令遵从都会有些问题，也就是至少建议有24G以上的显存
问问专家 @X-AIO
2080Ti22G,在现在1800左右的价格没有敌手
性价比最高啊，民用级别的话40系吧
20/30系不支持FP8，性能和显存都浪费
如果不在意FP8的兼容性问题，那么V100/3090都可以选
AMD的卡暂时别选，小白折腾不来
4060TI16G显存版 是不是预算有限比较合适的选择
@电动面包 #4
看用途规划，如果希望长期可以玩，并且对模型参数规模有要求的话，还是40系以上，内存越大越好。
如果只是满足短期的小需求，那么只需要考虑显存当下够用就行。
基本上15B以下参数量的Transformer模型对指令遵从都会有些问题，也就是至少建议有24G以上的显存
@X-AIO #5 我都在思考2080Ti了
40系大显存的贵太多了
是啊，4090真的消费不起。。。
4090
@luofengyuan #6
2080Ti的话，建议考虑V100吧，差不多同代的的玩意，显存还大
同问