家里的丐版万兆Mac mini m4装了ollama,docker部署了openwebui,想请问各位大佬哪个模型最能发挥它的性能,顺便:现在用了豆包感觉都很少用它了……
macmini拿来日常使用,怕装了ai影响我正常使用
8b,16b大小的吧,再大就费劲了
丐版能自部署的性能都比较差,吐字也不快,还是直接用现成的比较好
@Skyza #2 我现在用得最多的是豆包……
@Safari #3 那倒不会
@pengpeng #4 挺好用的,APP中的各种交互感觉也算是国内做的比较好的
ollama在Mac上性能不好,建议用LM Studio(基于MLX)
看看
你还不如充钱用大厂的api呢
m4这性能其实只适合跑点小工具,比如代码补全之类的,跑翻译也还过得去
macmini拿来日常使用,怕装了ai影响我正常使用
8b,16b大小的吧,再大就费劲了
丐版能自部署的性能都比较差,吐字也不快,还是直接用现成的比较好
@Skyza #2 我现在用得最多的是豆包……
@Safari #3 那倒不会
@pengpeng #4 挺好用的,APP中的各种交互感觉也算是国内做的比较好的
ollama在Mac上性能不好,建议用LM Studio(基于MLX)
看看
你还不如充钱用大厂的api呢
m4这性能其实只适合跑点小工具,比如代码补全之类的,跑翻译也还过得去