零时古怪 - 中国第一时事资讯综合门户

零时古怪资讯网
提供最新的热点新闻资讯
首页 > 科技

Kimi开放平台下调上下文缓存功能Cache存储费用

日前,AI初创公司月之暗面方面宣布,旗下Kimi开放平台上下文缓存(Context Caching)功能中的Cache存储费用下调50%。在此次调整后,其Cache存储单价由10元/1M tokens/min降至5元/1M tokens/min,但Cache创建与调用的价格则保持不变。

此前在7月1日,Kimi开放平台的上下文缓存功能开放公测,收费方式主要分为Cache创建费用、Cache存储费用、Cache调用费用3种。其中,Cache创建费用是在用户调用Cache创建接口并成功创建后,按照Cache中Tokens的实际量计费;Cache存储费用是在Cache存活时间内按分钟收取费用;Cache调用费用则是以增量token与成功调用次数为标准收费。

据了解,上下文缓存功能适用于请求频繁、且需重复引用大量初始上下文的情况,其能够缓存重复的Tokens内容、有效降低用户在请求相同内容时的成本。具体而言,该功能的典型应用场景包括提供大量预设内容的QA Bot、针对固定文档集合的频繁查询、对静态代码库或知识库的周期性分析、交互规则复杂的Agent类应用,以及瞬时流量巨大的爆款AI应用等。

对此月之暗面方面透露,在业务合适场景中使用该功能,根据客户的业务特性最高可节省90%的调用成本,“简单来说,越是规模化、重复度高的prompt场景,Context Caching功能带来的收益就越大”。

不久前,月之暗面旗下智能助手Kimi还上线了“给Kimi加油”这一付费选项,用户购买后即可获得高峰期优先使用等权益。而在价格方面,共提供了6种付费选项,例如5.2元/4天、9.99元/8天、28.8元/23天等。但需要注意的是,该服务的时长自用户支付完毕服务费用之后,按照实际经过的自然时间(1天为24小时)计算,无论用户在相应时间是否实际使用了Kimi。

【以上内容转自“三易生活网”,不代表本网站观点。如需转载请取得三易生活网许可,如有侵权请联系删除。】

 

延伸阅读:

  • 月之暗面日前发布Kimi企业级API,拓展B端业务
  • 月之暗面推出专业AI助手Kimi+,可解决特定问题

 

未经允许不得转载:零时古怪 - 中国第一时事资讯综合门户 » Kimi开放平台下调上下文缓存功能Cache存储费用

分享到:更多 ()
来源: 编辑:吉熟

评论

留言/评论 共有条点评
昵称:
验证码:
匿名发表