梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI
ChatGPT一夜间再次进化,OpenAI一口气推出大量更新!
最核心的是API新增函数调用(Function calling)能力,与网页版的插件类似,API也能使用外部工具了。
这个能力被交到开发者手上,Chatgpt API原本不具备的能力也都能靠各种第三方服务解决了。
有人认为,这是一个杀手级特性,也是自ChatGPT API发布以来最重要的更新。
另外这次关于ChatGPT API的更新每一个都很重磅,不仅能力加量,价格还更低了:
推出新版本gpt-4-0613和gpt-3.5-turbo-0613模型gpt-3.5-turbo上下文长度增涨400%,从4k增长到16kgpt-3.5-turbo输入token降价25%最先进embeddings model降价75%GPT-4 API大规模开放,直到清空排队列表为止消息到了国内,也有网友认为这是国内大模型面临的重大挑战。
最后,有需要的话也不要忘记去排队GPT-4 API的测试资格。
(传送门放在文末)
OpenAI捕“Chain”,微软在后不少网友指出,OpenAI新出的“函数调用”基本就是Langchain里“Tools”的翻版。
也许接下来,OpenAI还会翻版Langchain的更多功能,如Chains和Indexes。
并且不到一个小时就发布了新版本,支持官方新功能之外,还可以把开发者已经写好的tools转换成OpenAI的functions。
具体来说:
median latency从15秒减少到3秒95th percentile latency从60秒减少到15秒平均每秒处理的token数量增加了三倍,从8个增加到24个。再算上Azure给的一些折扣,甚至比原来还便宜了。
但微软Azure的更新速度一般要比OpenAI慢上几周。
开发阶段快速迭代用OpenAI,大规模部署转去微软Azure,你学到了么?
更新公告https://openai.com/blog/function-calling-and-other-api-updates
GPT-4 API排队https://openai.com/waitlist/gpt-4-api
参考链接:[1]https://news.ycombinator.com/item?id=36313348[2]https://twitter.com/svpino/status/1668695130570903552[3]https://weibo.com/1727858283/N5cjr0jBq[4]https://twitter.com/LangChainAI/status/1668671302624747520[5]https://twitter.com/hwchase17/status/1668682373767020545[6]https://twitter.com/ItakGol/status/1668336193270865921
— 完 —
量子位 QbitAI · 头条号签约
关注我们,第一时间获知前沿科技动态
相关文章
猜你喜欢