你们一般用哪个ui？
自己拿显卡跑才算自建吧
我们部门前段时间就自己部署的服务器
自建的ai只适合自己玩玩，当然那个专业的就当我没说
@Hohoda7501 #0 发布于2025/10/2 01:01:52 你们一般用哪个ui？
部署了离线模型： gemma、qwen和Conan-embedding
llama
@imsail #4 我之前部过ollama自己玩，但是那些五花八门的ui看得我眼都花了，不知道怎么选
哪个ui？
看你模型推荐什么部署啊 部署完 肯定都会暴露api接口 到时候 直接把api搞到cherry用
lm studio
本地部署不花个小十万，基本用不了
个人用户本地部署，其实性能并不好
现在免费的 api 比本地 5090 部署要强得多
自己拿显卡跑才算自建吧
我们部门前段时间就自己部署的服务器
自建的ai只适合自己玩玩，当然那个专业的就当我没说
部署了离线模型：
gemma、qwen和Conan-embedding
llama
@imsail #4 我之前部过ollama自己玩，但是那些五花八门的ui看得我眼都花了，不知道怎么选
看你模型推荐什么部署啊 部署完 肯定都会暴露api接口 到时候 直接把api搞到cherry用
lm studio
本地部署不花个小十万，基本用不了
个人用户本地部署，其实性能并不好
现在免费的 api 比本地 5090 部署要强得多