MCP和Function Calling的区别

·1445·3 分钟·
AI摘要: 本文深入探讨了MCP(函数调用协议)在提升LLM稳定性和灵活性方面的作用。通过统一函数描述规范,解决了因描述风格差异导致的调用不稳定问题;采用客户端-服务器模式动态获取参数信息,实现了接口升级时的无缝适配。文章从基础功能调用到多风格兼容、参数动态化等技术难点展开,揭示了MCP如何构建标准化的函数调用体系,为LLM与外部系统交互提供可靠框架。

之前一直浅浅看了一眼mcp,觉得和function calling并没有本质区别,被吹的太火了,这两天回头又看了一眼,又有了新的感悟。

让llm回答今天的天气

这种问题明显llm无法回答,因为llm无法感知外部世界,可是如果我们定义一个函数: getweather(day), 并向llm解释有这么一个函数,调用一下就可以知道今天的天气,只需要传入一个day参数就行。因此我们将参数,函数名,函数描述一并作为prompt传递给llm,llm就能知道调用这个函数的信息了。

真的能稳定调用成功吗?

我们知道llm的输出并不稳定,哪怕同一个输入都会产生不同答案。而写代码都知道,函数名,参数哪怕错一个字母,多一个括号,代码就报错,调用失败。

因此,llm一样会遇到这个问题: llm不一定会规规整整的调用函数的输出。llm可能会多一个括号,多一个分号,甚至说一些叽里咕噜客套话,里面藏着调用的代码,这对于我们从llm输出结果中找到调用函数的语句不利。

让llm学会稳定调用函数

为了稳定function calling,老老实实按照一定标准输出调用函数名字和参数,我们可以对llm针对性训练,该输出函数名的时候就输出函数名,后面必定跟着这个函数的参数以及值。

让llm调用更多的函数

不同的人写的函数难以统一,对函数的描述也不相同,人能理解,可是llm不一定会。

通过训练,llm可以学会了如何稳定调用A风格描述定义的function,但是万一有人换个B风格描述function来让llm调用,llm岂不是又抓瞎了,输出不稳定了。

mcp统一被调用的函数的描述规范

正是因为不同人描述函数风格习惯不一样,llm不会稳定调用函数,那么不如统一标准风格吧。

按照大家约定好的规则描述函数,比如先描述函数名,再描述参数名,不准反过来。而llm也按照这种风格的数据集进行训练,那么llm就能稳定调用这种风格描述的函数了。以后所有人都按照这种风格描述函数,就能让llm稳定调用任何新提供的函数,今天加一个获取股票的函数getstocks(xxx),明天加一个查询水电的函数getbills(xxx),都能稳定调用不报错了。

函数参数变化怎么办

我们知道,代码总是再不断地重构迭代的。比如还是查天气的函数getweather,函数提供一个参数day,现在重构升级了,函数变成getweather(day, location), 不仅仅可以查自己IP位置的天气,还能查看别的地方的天气,传入一个新的location参数就好了。

可llm哪知道函数接口变化了,只能费时费力去改prompt描述,所以mcp采用client和server模式,client会去向server询问当前这个外部函数的参数是什么,然后传回给llm,这样llm就知道最新的参数,再也不用担心接口变动而调用失败了。

总结

MCP提供了一种统一的外部接描述和调用规范,今后的llm都针对这种描述规范训练一下,llm就能稳定调用符合mcp规范的接口了,再也不用担心llm总是调用失败了。

mcp还将接口参数的描述从prompt端转移到server端,不再是写死接口参数,而是改成动态获取,以后接口随便怎么升级和改动,都能稳稳成功调用。