能一分钟出几百字就行
@dennis #14 没有VRAM吐字很慢
看你跑啥模型了
@laniakeancov #1 ds呢?
这个不好说,能用和好用区别太大了
上个4060就可以
用api吧
8张A800
@gongxifacai #2 https://lively-naiad-30128a.netlify.app
建议上api
看用多大的模型吧
感觉没必要自建
@dennis #14 没有VRAM吐字很慢
看你跑啥模型了
@laniakeancov #1 ds呢?
这个不好说,能用和好用区别太大了
上个4060就可以
用api吧
8张A800
@gongxifacai #2
https://lively-naiad-30128a.netlify.app
建议上api
看用多大的模型吧
感觉没必要自建