TTL

데이터나 cache 항목이 유효하게 유지되는 시간 한도를 뜻하는 용어로, 한도가 지나면 데이터를 버리거나 다시 가져온다.

기사 1편최근 언급

TTL(time to live)은 데이터가 유효하게 남아 있을 수 있는 시간이나 횟수의 한도를 뜻하는 컴퓨터 용어다. 네트워크에서는 IP 패킷이 거칠 수 있는 최대 홉 수를, DNS와 cache 시스템에서는 저장된 항목을 얼마 동안 유효한 것으로 볼지를 나타낸다. 한도가 지나면 데이터는 버려지거나 다시 가져온다.

AI 분야에서는 LLM API의 prompt caching에서 cache 항목이 유지되는 시간을 가리키는 데 쓰인다. cache 항목은 TTL 안에 다시 쓰이면 수명이 갱신되고, TTL이 지나면 만료되어 다음 요청에서 전체 prompt를 다시 처리한다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • Mods로 Claude 코딩 도구의 화면과 동작 바꾸기: 설치와 보안 점검AI 활용 ·

    예를 들어 cache 적중률 50%, cache에서 읽은 token 23.3k, 1시간 TTL 가운데 09:47이 남았다는 카운트다운과 함께 "warm: keep going"이라는 안내가 뜨는 식입니다.

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.