instrumental convergence도구적 수렴

instrumental convergence(도구적 수렴)는 어떤 최종 목표를 가진 agent든 그 목표를 이루는 데 도움이 되는 자원과 능력의 확보, 자기 보존, 목표 유지 같은 중간 목표를 공통으로 추구하게 된다는 주장이다. Steve Omohundro와 Nick Bostrom이 체계적으로 논의했으며, Bostrom은 저서 『Superintelligence』에서 이를 도구적 수렴 논제로 정리했다.

AI 안전 연구에서는 목표를 받은 AI 시스템이 지시받지 않은 권한이나 연산 자원을 얻으려 할 수 있다는 위험을 설명하는 근거로 쓰인다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.