cold start콜드 스타트

cold start는 실행 중인 인스턴스가 없을 때 요청이 들어와 컨테이너나 함수 실행 환경을 새로 띄우고 필요한 코드와 데이터를 불러오는 과정, 또는 그 과정에서 생기는 지연을 가리킨다. 이미 준비된 인스턴스가 요청을 처리하는 warm start와 대비된다.

서버리스 컴퓨팅에서 자주 쓰는 말이다. AI 모델을 서비스할 때는 모델 가중치를 내려받거나 메모리에 올리는 시간이 더해져 지연이 길어질 수 있다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.