冷启动cold start
冷启动是指已停止的服务器或运行环境在收到请求后重新启动时产生的初始化延迟。
2篇文章
最近提及 冷启动是指在没有运行中实例时收到请求,需要新启动容器或函数运行环境并加载所需代码和数据的过程,也指由此产生的延迟。与之相对的是由已就绪实例处理请求的热启动。
该术语常见于无服务器计算。在提供AI模型服务时,下载模型权重或将其载入内存会使延迟进一步延长。
本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。
涉及该条目的文章
预热与冷启动之间的差异,与GPU价格同样重要。