takeoff

테이크오프

AI 능력이 사람 수준에서 그것을 크게 넘어서는 수준으로 급격히 치솟는 국면을 가리키는 AI 안전 분야 용어다.

기사 1편최근 언급

takeoff(테이크오프)는 AI 안전 연구에서 AI 시스템의 능력이 사람과 비슷한 수준에서 그것을 크게 넘어서는 수준으로 빠르게 올라가는 전환 국면을 가리키는 용어다. 그 속도에 따라 몇 달이나 몇 주 안에 일어나는 fast takeoff(hard takeoff)와 몇 년에서 수십 년에 걸쳐 점진적으로 일어나는 slow takeoff(soft takeoff)로 나눈다.

이 개념은 AI가 스스로를 개선해 능력이 폭발적으로 커진다는 지능 폭발 가설에서 나왔으며, Eliezer Yudkowsky와 Nick Bostrom 등의 논의를 통해 널리 알려졌다. takeoff가 빠를수록 사람이 대응하고 통제할 시간이 줄어들기 때문에, takeoff 속도는 AI 위험 평가와 정책 논의에서 핵심 변수로 다뤄진다. RSI(recursive self-improvement)와 가속 계수 추정은 takeoff 동역학을 모델링하는 대표적인 접근이다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • S-1 공시로 본 RSI 기준, 연구 생산성 2배는 자기 가속의 절반AI 뉴스 ·

    다만 RSI가 임박했다는 공개 발언이 늘어나도 takeoff(AI 능력이 급격히 치솟는 국면)의 동역학을 모델링하는 방식은 연구자마다 크게 다르다는 점은 짚어 둘 필요가 있습니다.

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.