本来双十一想组台玩本地模型,奈何存储内存涨价,暂时搁置。先储备下硬件知识,前段问友友说显卡用大显存矿卡组多卡,那选amd还是intel,主板和cpu什么型号,不要太贵,平价型,可以洋垃圾
查下网上DeepSeek一体机配置就有参考价值了
买 mac mini吧 看跑什么模型 就跑对象大小的内存
本地要能用,得上好点的显卡,而且显存要大,小模型太鸡肋了
@imaxwell #1 那个看了不是塔式就是柜式纯服务器太贵,然后就i9级cpu 洋垃圾E5
@kissyouhunter #2 mac优势就是统一内存架构,内存单显存用?
意义不大,玩玩的话其实语言模型可以上Mac,更高需求可以买v100魔改卡,本地部署说真的没卵用,开源模型根本打不过闭源,更何况小参数+量化的版本
查下网上DeepSeek一体机配置就有参考价值了
买 mac mini吧 看跑什么模型 就跑对象大小的内存
本地要能用,得上好点的显卡,而且显存要大,小模型太鸡肋了
@imaxwell #1 那个看了不是塔式就是柜式纯服务器太贵,然后就i9级cpu 洋垃圾E5
@kissyouhunter #2 mac优势就是统一内存架构,内存单显存用?
意义不大,玩玩的话其实语言模型可以上Mac,更高需求可以买v100魔改卡,本地部署说真的没卵用,开源模型根本打不过闭源,更何况小参数+量化的版本