scale-to-zero스케일 투 제로
scale-to-zero는 요청이 없을 때 실행 중인 인스턴스 수를 0으로 줄이는 자동 확장 설정이다.
기사 1편
최근 언급 scale-to-zero는 자동 확장(autoscaling)에서 최소 인스턴스 수를 0으로 두어, 처리할 요청이 없으면 모든 인스턴스를 멈추는 방식이다. 쓰지 않는 동안에는 컴퓨팅 비용이 들지 않는다.
서버리스 플랫폼과 GPU 추론 서비스에서 쓰인다. 인스턴스가 모두 멈춘 뒤 들어온 첫 요청은 cold start를 거치므로 응답이 늦어질 수 있다.
이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.