utility function

효용 함수

결과나 상태마다 선호 정도를 수치로 매기는 함수로, 합리적 agent는 그 기댓값을 최대화하도록 행동한다.

기사 1편최근 언급

utility function(효용 함수)은 가능한 결과나 상태마다 그 바람직한 정도를 실수 값으로 매기는 함수다. 경제학과 의사결정 이론에서 비롯한 개념으로, 합리적 agent는 기대 효용(expected utility)을 최대화하는 행동을 선택한다고 가정한다.

AI에서는 agent의 목표를 수학적으로 표현하는 수단으로 쓰이며, 강화학습의 reward function(보상 함수)이 각 단계마다 보상을 주는 것과 달리 결과 전체에 대한 가치를 나타낸다. AI 안전 연구에서는 사람이 설계한 utility function이 의도와 어긋날 때 생기는 문제와, agent가 사람의 효용을 불확실하게 추정하도록 하는 설계가 논의된다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • AI가 종료를 거부하는 이유, off-switch game이 짚는 불확실성 조건AI 윤리 ·

    표준적인 AI agent는 utility function(환경의 결과마다 점수를 매기는 함수)을 최대화하도록 움직입니다.

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.