コールドスタートcold start

コールドスタートは、稼働中のインスタンスがない状態でリクエストが届き、コンテナーや関数の実行環境を新たに立ち上げて必要なコードやデータを読み込む過程、またはそれに伴う遅延を指す。準備済みのインスタンスがリクエストを処理するウォームスタートと対になる。

サーバーレスコンピューティングでよく使われる用語である。AIモデルを提供する場合は、モデルの重みのダウンロードやメモリーへの読み込みに時間がかかり、遅延が長くなることがある。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。