7月2日消息，Kimi 开放平台日前宣布其“上下文缓存”技术进入公测阶段。该技术可为开发者大幅降低长文本旗舰大模型的使用成本，最高可达90%，并显著提升模型的响应速度。
据了解，上下文缓存技术作为一种高效的数据管理技术，其核心优势在于能够预先存储并快速提供那些可能被频繁请求的大量数据或信息。当用户再次请求相同信息时，系统无需重新计算或从原始数据源中检索，而是直接从缓存中快速提取，从而显著节省时间和资源。
Kimi 开放平台方面以某硬件产品说明书为例介绍了该技术的应用场景。对于一份长达9万字的说明书，在传统模式下，售前支持人员需要在10分钟内对产品的功能/使用方式进行40次问答，问题大概100个字，回答在120字以内。
然而，在接入上下文缓存技术后，9万字的文档只需创建并存储一次缓存，40次问答将仅收取将只收取问题的100字+回答的120字的费用，预计节省费用达92.27%。
业内人士称，在当前大模型行业日益注重效率和成本控制的背景下，Kimi的这一创新不仅为开发者提供了更经济、更高效的解决方案，也有望进一步推动大模型行业的应用和发展。
标签：
7月2日消息，Kimi 开放平台日前宣布其上下文缓存技术进入公测阶段
由亚洲银行家主办的2024中国未来金融峰会近日在北京成功举办。本次峰会
近日，知名私募机构东方港湾董事长但斌透露，因为股价涨得比较多，现在
新华社北京6月3日电 外交部发言人3日就菲律宾总统马科斯在香格里拉
日前，人民银行等四部门联合召开工作推进会，要求切实提升金融支持
近日，镇平县人民法院石佛寺法庭根据债权人刘某的申请，对债务人张某名
近年来，河南西峡农商银行始终坚持服务三农、服务小微、服务区域经济的
2024年1月，正值新年新作为，奋进正当时。息县路口乡为有序推进农村人
为弘扬宪法精神，彰显宪法权威，进一步增强新任职人员的使命感和责任感
为切实做好安全隐患排查和源头治理工作，全力营造安全稳定和谐的社会环
10月25日，水利部副部长陈敏在水利部召开的新闻发布会上表示，今年1
资料图：太原海关所属武宿海关关员对出境中欧班列货物开展现场监管
中新网广元10月5日电(刘星 阳林玥 苗志勇)剑门路，崎岖凹凸石头路
8月23日电，锡业股份披露半年报，公司上半年实现营业收入228 32亿元，
泰拉瑞亚埃特尼亚哥布林投弹手很多玩家都想了解，泰拉瑞亚中有形形色色
为有效提高农机作业水平，提升农机专业服务能力，8月21日，在咸阳市武
