TTL(time to live)은 데이터가 유효하게 남아 있을 수 있는 시간이나 횟수의 한도를 뜻하는 컴퓨터 용어다. 네트워크에서는 IP 패킷이 거칠 수 있는 최대 홉 수를, DNS와 cache 시스템에서는 저장된 항목을 얼마 동안 유효한 것으로 볼지를 나타낸다. 한도가 지나면 데이터는 버려지거나 다시 가져온다.
AI 분야에서는 LLM API의 prompt caching에서 cache 항목이 유지되는 시간을 가리키는 데 쓰인다. cache 항목은 TTL 안에 다시 쓰이면 수명이 갱신되고, TTL이 지나면 만료되어 다음 요청에서 전체 prompt를 다시 처리한다.