Paul Christiano

폴 크리스티아노

RLHF의 토대를 놓은 미국 AI 안전 연구자로 Alignment Research Center를 세우고 미국 AI 안전 연구소의 안전 연구를 이끈다.

기사 1편최근 언급

Paul Christiano는 미국 AI 안전 연구자다. University of California, Berkeley에서 이론 컴퓨터과학 박사 학위를 받았고 OpenAI에서 언어 모델 정렬 팀을 이끌었다. 2021년 AI 시스템의 위험을 평가하는 비영리 연구 기관 Alignment Research Center(ARC)를 설립했으며, 2024년 미국 상무부 산하 AI 안전 연구소(US AI Safety Institute)의 AI 안전 책임자가 됐다.

2017년 Jan Leike, Dario Amodei 등과 함께 발표한 'Deep Reinforcement Learning from Human Preferences' 논문으로 사람의 선호 비교를 보상 신호로 쓰는 RLHF의 토대를 놓았다. iterated amplification 등 확장 가능한 감독(scalable oversight) 방법도 제안했다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • AI가 종료를 거부하는 이유, off-switch game이 짚는 불확실성 조건AI 윤리 ·

    2017년 Paul Christiano, Jan Leike, Dario Amodei 등이 발표한 논문은 사람의 선호를 심층 강화학습에 결합하는 방식으로 이 병목을 우회했습니다.

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.