utility function(효용 함수)은 가능한 결과나 상태마다 그 바람직한 정도를 실수 값으로 매기는 함수다. 경제학과 의사결정 이론에서 비롯한 개념으로, 합리적 agent는 기대 효용(expected utility)을 최대화하는 행동을 선택한다고 가정한다.
AI에서는 agent의 목표를 수학적으로 표현하는 수단으로 쓰이며, 강화학습의 reward function(보상 함수)이 각 단계마다 보상을 주는 것과 달리 결과 전체에 대한 가치를 나타낸다. AI 안전 연구에서는 사람이 설계한 utility function이 의도와 어긋날 때 생기는 문제와, agent가 사람의 효용을 불확실하게 추정하도록 하는 설계가 논의된다.