Constitutional AI헌법적 AI
Constitutional AI는 Anthropic이 개발한, 글로 적은 원칙에 따라 AI가 스스로 답을 비판하고 고치게 하는 학습 방법이다.
기사 1편
최근 언급 Constitutional AI는 Anthropic이 2022년에 발표한 AI 학습 방법이다. '헌법'이라 부르는 원칙 목록을 정해 두고, 모델이 이 원칙에 비추어 자신의 답을 비판하고 고치게 한 뒤, 그 결과와 AI가 매긴 평가를 학습에 쓴다.
유해성을 줄이는 학습에서 사람의 평가 대신 AI의 피드백을 활용한다는 점이 특징이며, Anthropic의 Claude 모델 학습에 쓰여 왔다.
이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.