DeepFloodbeta

Cherry Studio 桌面端 近期实用更新

目前最新版是1.7.13,修复了一些问题.但是我注意到1.7.10(1.7.12发版)更新了一个功能,"MCP HUB",看名字和具体的功能效果也知道应该是参考了某个MCP网关项目.
image

这个功能可以很大程度缓解MCP使用会遇到的问题:就是你启用的MCP服务器越多,上下文被侵占的就越多,导致徒增Token消耗,AI注意力下降等.因为MCP服务器本身包含大段的描述语句,包括提示词,参数等.而且日常用基本都是添加很多个MCP服务器一块使用(尤其是Github的MCP服务器,这玩意儿包含40个工具),那么当你跟AI说第一句话的时候,所有启用的MCP服务器的描述信息就会被一同喂给AI,哪怕AI只是需要用到其中几个甚至1个工具而已.

那么现在这个新功能本身也是个MCP服务器,通过暴露2个工具,一个search,通过关键字匹配工具,然后通过算法加权打分,最后给出几个得分最高的工具给AI选,然后AI通过exec工具调用最合适的工具.这样一来,就不用暴露已启用的全部MCP服务器的信息给AI了,只需要暴露几个最匹配的,节省了大量Token的同时,效率也高了.

反正就是有点类似SKILLS,按需加载的意思.

而且Cherry Studio没有用到嵌入式模型来向量化搜索,就是关键字匹配加算法,非常的简单易用.

只需要正常在设置里启用所有的MCP服务器,然后在聊天界面的MCP工具配置里选择"自动"即可.
image

只会暴露几个最匹配的工具
image

然后AI自行调用需要的工具
image

非常的高效,舒适,可以看到这个问题下来,在我启用了总共9个MCP服务器总计64个工具的情况下,右下角Token消耗数才2K不到(虽然计算应该没那么精准),要是放之前,光启用Github这1个MCP服务器,啥都不干就得5K往上,因为他40个工具描述信息加起来实在太多了.
image

还是Cherry Studio好用 xhj003

  • mcphub有个同名项目,本身只带两个工具,每次调用时需要多次请求来找工具,对于按次而不是按token的不友好。几个月前用的时候,还碰到过几次找不到工具的情况,导致工具利用率比较低,不知道现在如何了。

  • 多废话一句,cherry最大的问题是欠下的技术债太多,最显著的是根据模型白名单来发报文,已经被坑了好多次,什么时候可以乖乖遵循规范来,才算是个成熟的工具。

  • @hkfires #1 对,我说他参考的就是这个项目。而且需要配置嵌入式模型,并且大部分效果都不行,除了bge-m3(硅基),一开始用起来效果非常好,匹配非常精准,基本最多调用2次search就能找到目标工具,但是不知道啥时候开始我一调用就开始频率限制,看日志说是要实名才能去除限制我就没用智能路由了。

  • 一直在用,但暂时用不到这么高级的功能

  • 图没了

  • 这软件我一直在用,就是后面功能多了,我用起来不是很顺手,着急的都去都去网页端了,api找不到划算的模型

  • @woohong #7 我三端都用,最顺手的还是Cherry Studio,等安卓v2跟桌面对齐,基本就无敌了,只差网页端了

  • BD