greedy decoding

탐욕적 디코딩

매 단계 확률이 가장 높은 token 하나를 고르는 가장 단순한 언어 모델 decoding 방법이다.

기사 1편최근 언급

greedy decoding은 언어 모델이 text를 생성할 때 매 단계에서 확률이 가장 높은 token 하나를 고르는 가장 단순한 decoding 방법이다. 같은 입력에 늘 같은 출력을 내는 결정적 방식이며, temperature를 0으로 두는 설정과 사실상 같다.

매 단계의 최선이 전체 문장에서 최선이 아닐 수 있어 반복적이거나 단조로운 글이 나오기 쉽다. 이를 보완하려고 beam search나 top-k, top-p 같은 sampling 기법이 쓰인다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • LLM 작동 원리로 세우는 agent의 context 설계 기준AI 활용 ·

    가장 확률이 높은 token만 고르는 greedy decoding은 단순하지만, 매 단계에서 가장 그럴듯한 token이 전체 문장으로는 가장 자연스러운 경로가 아닐 수 있어 반복적이거나 어색한 글이 나올 수 있습니다.

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.